حقیقت تلخ درباره واترمارک SynthID گوگل؛ چرا شکست‌ ناپذیری در برابر هک، مانع انتشار اخبار جعلی هوش مصنوعی نمی‌شود؟

درک مقیاس رسانه‌های تولیدشده توسط هوش مصنوعی کار چندان ساده‌ای نیست. «استارلینگ لب» (Starling Lab)، یک همکاری پژوهشی میان دانشگاه استنفورد و دانشگاه کالیفرنیای جنوبی، برآورد کرده است که ۱۴۹ سال طول کشید (یعنی تا سال ۱۹۷۵) تا بشریت از زمان اختراع دوربین ۱.۵ میلیارد تصویر خلق کند؛ اما هوش مصنوعی مولد (Generative AI) تنها به ۱۸ ماه زمان نیاز داشت تا به همین آمار دست یابد! و البته هوش مصنوعی به همین‌جا بسنده نکرد.

به گزارش بخش اخبار فناوری زوم تک به نقل از آرس تکنیکا (Ars Technica)، گوگل در کنفرانس I/O بهاری خود اعلام کرد که تنها در مدت چند سال، بیش از ۱۰۰ میلیارد تصویر و ویدیو با استفاده از ابزارهای هوش مصنوعی این شرکت تولید شده است و گوگل تنها منبع تولید این محتواها نیست. این غول فناوری این آمار خیره‌کننده را با مجموعه عظیمی از همکاری‌های تجاری همراه کرد تا استفاده از فناوری واترمارک SynthID خود را گسترش دهد؛ ابزاری که برای برچسب‌گذاری محتوای تولیدشده توسط هوش مصنوعی طراحی شده و می‌تواند به افراد در تشخیص محتوای واقعی از ساختگی کمک کند.

گوگل ادعا می‌کند که واترمارک SynthID آن‌قدر مقاوم است که حتی پس از ویرایش و تغییر تصویر نیز باقی می‌ماند. با پیوستن شرکت‌هایی چون OpenAI، Runway، Nvidia و دیگران به استفاده از آن، به‌زودی شاهد ارزیابی عملکردی این ادعا خواهیم بود. اما آیا واترمارک‌های نامرئی می‌توانند معضل محتوای هوش مصنوعی و اخبار جعلی را حل کنند؟

واترمارک SynthID در برابر C2PA؛ روش‌ های برچسب‌گذاری محتوای هوش مصنوعی

در حال حاضر دو رویکرد اصلی برای برچسب‌گذاری محتوای هوش مصنوعی وجود دارد: واترمارک‌های نامرئی مانند SynthID و پروتکل‌های متاداده‌ای مانند ائتلاف اثبات و اصالت محتوا (C2PA). گوگل از هر دو روش برای برچسب‌گذاری استفاده می‌کند، اما C2PA برخلاف واترمارک برای پنهان ماندن در دید عموم طراحی نشده است. پروتکل C2PA از نظر رمزنگاری بسیار ایمن است و نمی‌توان آن را جعل کرد، اما حذف کردن آن بسیار ساده است؛ صرفاً با یک ویرایش ساده، ذخیره مجدد یا حتی گرفتن یک اسکرین‌شات می‌توان متاداده‌های C2PA را به کلی پاک کرد.

در مقابل، واترمارک‌هایی مانند SynthID درون پیکسل‌های یک تصویر و ویدیو یا در سیگنال‌های صوتی رمزگذاری می‌شوند. محتوایی که در اینترنت دست‌به‌دست می‌شود بر اثر فشرده‌سازی، تغییر اندازه و ویرایش افت کیفیت پیدا می‌کند، اما گوگل می‌گوید SynthID حتی در میم‌های اینترنتی دست‌چندم نیز باقی می‌ماند. پوشمیت کوهلی (Pushmeet Kohli)، دانشمند ارشد گوگل دیپ‌مایند (Google DeepMind)، در گفت‌وگو با آرس تکنیکا توضیح داد که تیم آن‌ها تلاش زیادی انجام داده تا SynthID روشی پایدار برای شناسایی محتوای تولیدشده با هوش مصنوعی باشد.

کوهلی می‌گوید: «در تمام طول فرایند توسعه، ما فرض را بر این گذاشتیم که فناوری‌هایی از این دست مورد حمله قرار خواهند گرفت. بنابراین تحقیقات زیادی انجام دادیم تا SynthID را در برابر انواع تغییرات و دستکاری‌ها مقاوم کنیم. چه افراد فیلترهایی را اضافه کنند و چه تصویر را برش بزنند (Crop)، ما این تغییرات را آزمایش کردیم و مطمئن شدیم که شناساگر در برابر آن‌ها کاملاً مقاوم است.»

چالش شبیه‌ سازی؛ آیا واترمارک گوگل در برابر فشرده‌ سازی شدید دوام می‌آورد؟

گوگل تمایل چندانی به ارائه جزئیات فنی بیشتر درباره عملکرد SynthID فراتر از مقاله اصلی خود نداشته است؛ بنابراین با گسترش این فناوری در زیست‌بوم هوش مصنوعی، ارزشش را دارد که این ادعاها را به چالش بکشیم. اما چه کسی وقت دارد منتظر بماند تا تصاویر هوش مصنوعی به مرور زمان در چرخش‌های اینترنتی دچار افت کیفیت شوند؟

برای شبیه‌سازی افت داده‌ها ناشی از اشتراک‌گذاری و دانلودهای مکرر با سرعتی بسیار بالا، از کتابخانه Pillow پایتون استفاده شد. این اسکریپت پایتون مقادیر تصادفی فشرده‌سازی و تغییر اندازه را روی تصویر تست اعمال کرده و سپس تصویر خروجی را به عنوان پایه برای مرحله بعدی قرار داده است.

این تست روی دو نوع تصویر هوش مصنوعی تمرکز داشت: تصویری که تماماً از صفر توسط مدل ساخته شده و یک عکس واقعی که توسط هوش مصنوعی ویرایش شده است. هر دو تصویر تولیدشده توسط مدل Nano Banana Pro حاوی واترمارک SynthID بودند و هیچ دستکاری در متاداده نمی‌توانست آن را مخفی کند.

تصاویر اولیه وارد فرآیند فشرده‌سازی شدید شدند و فایل‌های شفاف اولیه به لکه‌هایی ناواضح تبدیل شدند. همچنین در هر ۵۰ مرحله، نسخه‌هایی برش‌خورده از تصویر ایجاد شد تا با حذف پیکسل‌ها، پایداری SynthID بیشتر تضعیف شود.

نتیجه جالب توجه بود: پس از ۳۰۰ چرخه فشرده‌سازی شبیه‌سازی‌شده، واترمارک SynthID روی هر دو تصویر همچنان به درستی کار می‌کرد! حتی با آپلود تصویر در هوش مصنوعی Gemini یا اسکرین‌شات گرفتن از آن، سیستم همچنان آن را به عنوان تصویر دارای SynthID شناسایی می‌کرد، چرا که پیکسل‌های ویژه به فایل جدید منتقل می‌شدند.

نقطه ضعف SynthID کجاست؟ وقتی برش تصویر واترمارک را نابود می‌کند

از آنجا که پیکسل‌های SynthID در سراسر تصویر پخش شده‌اند، در برابر برش زدن نیز مقاومت خوبی دارند… البته تا یک حد مشخص! پس از ۳۰۰ مرحله فشرده‌سازی، با حذف تنها چند پیکسل از حاشیه‌های تصویر، سرانجام واترمارک SynthID کارایی خود را از دست داد. برش ۲۰ درصدی تصویر کافی بود تا SynthID کاملاً غیرقابل شناسایی شود. همچنین یک برش ۵۰ درصدی توانست واترمارک را کمی زودتر (در حدود ۲۵۰ مرحله فشرده‌سازی) از بین ببرد.

این تصاویر اگرچه کیفیت بصری خود را از دست داده بودند، اما هیچ چیز (به جز محتوای تصویری) وجود نداشت که اثبات کند آن‌ها توسط هوش مصنوعی تولید شده‌اند.

محدودیت‌ ها و خطرات امنیتی واترمارک‌ های نامرئی هوش مصنوعی

اگرچه مقاومت SynthID در برابر ویرایش‌های سنگین تحسین‌برانگیز است، اما واترمارک‌های هوش مصنوعی چالش‌های ساختاری مهمی دارند. SynthID تنها فناوری موجود نیست؛ شرکت متا (Meta) نیز اخیراً واترمارک Content Seal را منتشر کرد، اما بررسی‌های رویترز نشان داد که صرفاً با یک برش ساده تصویر، این واترمارک به راحتی حذف می‌شود. بنابراین صرفِ وجود یک فناوری، به معنای کارآمدی تمام تلاش‌ها برای برچسب‌گذاری نامرئی نیست.

علاوه بر این، گوگل هرگز ادعا نکرده که SynthID شکست‌ناپذیر است. مقاله اصلی این فناوری اشاره می‌کند که واترمارک برای مقاومت در برابر حملات مخرب (Adversarial Attacks) طراحی نشده است. این کاملاً محتمل است که افرادی با زمان و انگیزه کافی، راهی برای دور زدن SynthID پیدا کنند. اگرچه گزارش‌هایی از هک این سیستم منتشر شده، اما گوگل و تیم‌های مستقل هنوز نتوانسته‌اند این ادعاها را بازسازی کنند.

با این حال، امنیت هرگز مطلق نیست. اگر SynthID به طور گسترده متداول شود و سپس هک گردد، میلیاردها تصویر و ویدیو بدون برچسب باقی خواهند ماند و گوگل وارد یک بازی موش و گربه دائمی برای به‌روزرسانی سیستم خود خواهد شد. گوگل تأکید می‌کند که SynthID یک درمان قطعی برای اصالت‌سنجی دیجیتال نیست، اما حقیقت این است که SynthID در حال تبدیل شدن به یک هدف بسیار بزرگ‌تر برای هکرها است.

تیم توسعه‌دهنده SynthID برنامه‌هایی برای مقابله با هک دارد، اما کوهلی می‌گوید گوگل باید بخش زیادی از آن را محرمانه نگه دارد: «ما می‌توانیم واترمارک را تغییر دهیم. ابزارهای زیادی در اختیار داریم، اما نمی‌توانم جزئیات عمومی آن‌ها را افشا کنم زیرا این محرمانگی به حفاظت از کل سیستم کمک می‌کند.»

محدودیت دسترسی و پراکندگی؛ بزرگ‌ترین چالش کاربران در تشخیص تصاویر فیک

گوگل برای جلوگیری از هک شدن، دسترسی به ابزار سنجش SynthID را بسیار محدود کرده است. هیچ API عمومی یا وب‌سایت مجزایی برای تشخیص وجود ندارد و کاربران مجبورند عکس را در هوش مصنوعی Gemini آپلود کرده و درخواست بررسی نمایند.

علاوه بر این، گوگل بررسی‌های روزانه هر کاربر را به حدود ۱۰ تصویر محدود کرده است تا مهاجمان نتوانند با آزمون و خطای پی‌درپی، راهکار دور زدن سیستم را پیدا کنند. در عصری که سیاستمداران برای تخریب رقبای خود از اخبار جعلی هوش مصنوعی (AI Misinformation) استفاده می‌کنند، محدود کردن ابزارهای راست‌آزمایی به هیچ وجه منطقی به نظر نمی‌رسد.

چالش بعدی، پراکندگی واترمارک‌هاست. شرکت‌هایی مانند OpenAI و Runway اگرچه از زیرساخت SynthID استفاده می‌کنند، اما واترمارک‌های آن‌ها متفاوت است. ابزار شناساگر گوگل نمی‌تواند واترمارک OpenAI را تشخیص دهد و بالعکس! بنابراین نه تنها دسترسی به SynthID محدود است، بلکه ممکن است یک تصویر هوش مصنوعی را در چند شناساگر بررسی کنید و چیزی پیدا نکنید، فقط به این دلیل که توسط سیستم دیگری تولید شده که شما از آن بی‌خبرید.

سخنگوی گوگل اعلام کرده که این شرکت از مطلوب نبودن این تجربه آگاه است و برنامه‌هایی برای بهبود آن دارد: «ما در حال همکاری فعال با شرکای صنعت هستیم تا راستی‌آزمایی را یکپارچه‌تر و قابل‌دسترس‌تر کنیم. رؤیای ما ایجاد یک زیست‌بوم تعامل‌پذیر است.»

غول از چراغ جادو خارج شده است؛ چرا واترمارک‌ ها مانع انتشار اخبار دروغین نمی‌شوند؟

حتی اگر مشکل رابط کاربری و یکپارچه‌سازی واترمارک‌ها حل شود، این روش تنها بخش کوچکی از حل مسئله خواهد بود؛ زیرا همواره راه‌هایی برای تولید محتوای هوش مصنوعی بدون هیچ‌گونه برچسب یا واترمارکی وجود دارد.

شرکت‌های بی‌شماری خدمات تولید تصویر و ویدیو ارائه می‌دهند و بعید است که همه آن‌ها بر سر استفاده از فناوری واترمارک یا حتی متاداده توافق کنند. مهم‌تر از آن، کاربران مجبور نیستند به سیستم‌های متمرکز غول‌های فناوری متکی باشند.

آدام رز (Adam Rose)، پژوهشگر ارشد «استارلینگ لب»، در این باره می‌گوید: «مشکل اصلی فقط تصاویری نیست که توسط اهالی بزرگ فناوری مانند گوگل و OpenAI تولید می‌شوند، بلکه افرادی هستند که مدل‌های هوش مصنوعی آزاد و اپن‌سورس (Open-source) را روی رایانه‌های شخصی خود اجرا می‌کنند.»

امروزه مدل‌های باز زیادی وجود دارند که بدون هیچ‌گونه برچسب‌گذاری اقدام به تولید تصویر می‌کنند. این مدل‌ها به صورت نامحدود به اشتراک گذاشته شده و ارتقا می‌یابند. بنابراین نمی‌توان به واترمارک‌ها به عنوان تنها راهکار کشف حقیقت اعتماد کرد. حباب تولید محتوای هوش مصنوعی شکسته شده و راه بازگشتی وجود ندارد.

سود ناویژه‌ خوران یا Liar’s Dividend؛ آیا باید به سمت اثبات محتوای واقعی حرکت کنیم؟

حجم بی‌سابقه محتوای تولیدشده توسط هوش مصنوعی، برچسب‌گذاری همه آن‌ها را غیرممکن می‌سازد. ۱۰۰ میلیارد تصویر SynthID گوگل تنها بخش کوچکی از کوه یخی است که اینترنت را فرا گرفته است. شاید هوشمندانه‌تر باشد به جای افشای محتوای جعلی، روی اثبات و تایید محتوای واقعی تمرکز کنیم.

مایک کارونا (Mike Caronna)، فتوژورنالیست باسابقه، توضیح می‌دهد: «تولید محتوا با دوربین‌های واقعی در جهان محدودیت دارد، اما هیچ محدودیتی برای تولید محتوای سنتتیک و مصنوعی وجود ندارد. بنابراین ما باید تمرکز خود را روی چیزهای کمیاب بگذاریم، و آن چیزی نیست جز اطلاعات واقعی و ارزشمند. اگر بتوانیم آن را ایمن کرده و اصالتش را اثبات کنیم، می‌توانیم در برابر سود ناویژه‌خوران (Liar’s Dividend) دفاع کنیم.»

اصطلاح «سود ناویژه‌خوران» یا Liar’s Dividend توصیف‌کننده تاکتیکی است که در آن فرد هنگام مواجهه با مدرک افشاگرانه، مدعی می‌شود که مدرک دستکاری‌شده یا حاصل از هوش مصنوعی است («این عکس یا فیلم من نیست، کار هوش مصنوعی است!»). این فرار از مسئولیت با گسترش هوش مصنوعی قوی‌تر نیز خواهد شد.

در اینجاست که اهمیت استاندارد C2PA مشخص می‌شود. پروتکل C2PA به عنوان یک مهر و موم دست‌نخورده برای فایل‌های دیجیتال عمل می‌کند. متاداده‌های دارای تاییدیه رمزنگاری می‌توانند اصالت محتوای واقعی را به اثبات برسانند. این روش بسیار کارآمدتر از گشتن به دنبال اثبات هوش مصنوعی بودن یک تصویر در میان سیلاب محتواهای نامشخص است.

اگرچه C2PA هنوز فراگیر نشده است، اما شرکت گوگل در این زمینه پیشگام بوده و گوشی‌های پیکسل ۱۰ (Pixel 10) این شرکت جزو معدود دستگاه‌هایی هستند که متاداده‌های رمزنگاری‌شده C2PA را روی تصاویر و ویدیوهای ثبت‌شده هک می‌کنند تا زمان، مکان و عدم استفاده از هوش مصنوعی در تغییر عکس را اثبات نمایند.

در آینده، شاید چاره‌ای نداشته باشیم جز اینکه هر محتوایی را که فاقد داده‌های اصالت‌سنجی قابل راستی‌آزمایی است، مشکوک تلقی کنیم. برچسب‌گذاری محتوای هوش مصنوعی اقدام خوبی از سوی شرکت‌های فناوری است، اما به تنهایی نجات‌دهنده ما در برابر سیل اخبار جعلی نخواهد بود.