تشخیص تصاویر جعلی هوش مصنوعی با گوگل Gemini؛ راز عکس‌ های وایرال ایلان ماسک و زاکربرگ فاش شد

واترمارک تصاویر ساخته شده توسط هوش مصنوعی گوگل با چشم غیرمسلح قابل مشاهده نیست، اما اکنون راهی ساده برای شناسایی آنها وجود دارد.

به گزارش بخش اخبار فناوری زوم تک به نقل از Gizmodo، عکس‌هایی که به ظاهر ایلان ماسک و چندین مدیرعامل دیگر غول‌های فناوری را نشان می‌دهند، در هفته گذشته در شبکه‌های اجتماعی X و Bluesky به شدت وایرال شده‌اند. محیط‌های پیش‌پاافتاده در این تصاویر، از جمله آپارتمان‌های ساده و پارکینگ‌های مک‌دونالد، باید به همه این سرنخ را می‌داد که این عکس‌ها جعلی هستند. اما اکنون راه جدیدی برای کاربران عادی وجود دارد تا خودشان بررسی کنند که آیا تصاویر با هوش مصنوعی ساخته شده‌اند یا خیر؛ و این ابزار واقعاً کاربردی است.

چرا ابزارهای فعلی تشخیص هوش مصنوعی قابل اعتماد نیستند؟

در همین ابتدای کار باید گفت که اکثریت قریب به اتفاق تشخیص‌دهنده‌های تصویر هوش مصنوعی قابل اعتماد نیستند. بسیاری از مردم فکر می‌کنند می‌توانند از ابزارهایی که به‌طور آزاد در وب موجود است استفاده کنند و بفهمند که آیا یک تصویر خاص کار هوش مصنوعی است یا نه. اما این ابزارها عملکرد خوبی ندارند. برای مثال، مردم اغلب در شبکه اجتماعی X از Grok می‌پرسند که آیا یک عکس با هوش مصنوعی مولد ایجاد شده است یا خیر، و این ابزار مرتباً پاسخ را اشتباه می‌دهد؛ گاهی اوقات به روش‌هایی که بسیار خنده‌دار است.

واترمارک نامرئی SynthID؛ سلاح مخفی گوگل

گوگل چند سال پیش یک واترمارک هوش مصنوعی به نام SynthID را توسعه داد، اما این شرکت به کاربران عادی اجازه نمی‌داد بررسی کنند که آیا یک تصویر دارای این واترمارک است یا خیر. این رویه همین چند روز پیش تغییر کرد. اکنون هر کسی می‌تواند تصویری را در Gemini آپلود کند و بپرسد که آیا دارای واترمارک SynthID است یا نه؛ واترمارکی که با چشم غیرمسلح نامرئی است.

این واترمارک در پیکسل‌های تصویر تعبیه شده است و هر تصویری که با ابزارهای خلق تصویر هوش مصنوعی گوگل ایجاد شده باشد، آن را خواهد داشت. بررسی این واترمارک اکنون برای هر کسی که Gemini را باز می‌کند آسان است.

نحوه استفاده از Gemini برای تشخیص اصالت تصویر

بر اساس اعلام گوگل:

«اگر تصویری را می‌بینید و می‌خواهید تأیید کنید که توسط Google AI ساخته شده است، آن را در اپلیکیشن Gemini آپلود کنید و سوالی مانند: “Was this created with Google AI?” (آیا این با هوش مصنوعی گوگل ساخته شده است؟) یا “Is this AI-generated?” (آیا این تولید شده توسط هوش مصنوعی است؟) بپرسید.

جمینای وجود واترمارک SynthID را بررسی می‌کند و از استدلال خود برای ارائه پاسخی استفاده می‌کند که زمینه بیشتری در مورد محتوایی که آنلاین با آن مواجه می‌شوید، به شما می‌دهد.»

نقش ابزار جدید Nano Banana Pro در ساخت تصاویر واقع‌گرایانه

بدیهی است که Gemini تجهیزات کمتری برای تشخیص تصاویر هوش مصنوعی دارد اگر آن تصویر با ابزارهای گوگل مانند Nano Banana Pro ساخته نشده باشد. و این دقیقاً تمام دلیلی است که به نظر می‌رسد این شرکت قابلیت تشخیص SynthID را در این لحظه در Gemini راه‌اندازی کرده است. ابزار Nano Banana Pro هفته گذشته راه‌اندازی شد و به کاربران اجازه می‌دهد تصاویر فوق‌العاده واقع‌گرایانه بسازند، از جمله تصاویری از ایلان ماسک و سایر مدیران عامل فناوری که بسیار واقعی به نظر می‌رسند.

برخی از آن تصاویر اخیراً وایرال شده‌اند، مانند عکسی که قبل از مهاجرت به پلتفرم‌های دیگر مانند Bluesky، نزدیک به ۹ میلیون بازدید در X به دست آورد. این تصویر ماسک، جنسن هوانگ (مدیرعامل انویدیا)، سوندار پیچای (مدیرعامل گوگل)، تیم کوک (مدیرعامل اپل)، جف بزوس (بنیان‌گذار آمازون)، ساتیا نادلا (مدیرعامل مایکروسافت) و مارک زاکربرگ (مدیرعامل متا) را نشان می‌دهد که همگی در یک آپارتمان کوچک با هم ایستاده‌اند.

سناریو های عجیب: از پارکینگ مک‌دونالد تا سیگار برگ

نسخه‌های دیگر این تصویر شامل سام آلتمن، مدیرعامل OpenAI است که مردان را در حال ایستادن در یک پارکینگ نشان می‌دهد (که تصویر بالای این مقاله است). بنا به دلایلی، ماسک در چند مورد از آن‌ها در حال کشیدن سیگار برگ دیده می‌شود. تصویر دیگری مردان را در پارکینگ از زاویه‌ای متفاوت نشان می‌داد. و باز هم تصویر دیگری وجود داشت که مردان را در حال خوردن مک‌دونالد روی زمین با یک سایبرتراک در پس‌زمینه نشان می‌داد.

تایید جعلی بودن تصاویر توسط Gemini

اگر هر یک از این تصاویر را از طریق Gemini اجرا کنید، تأیید می‌کند که همه آن‌ها دارای واترمارک SynthID هستند. اگر در تعجب هستید که آیا تصویری آنقدر عجیب به نظر می‌رسد که واقعی باشد یا خیر، احتمالاً ایده خوبی است که با Gemini چک کنید.

آیا آن تصویر وایرال شده از رئیس جمهور دونالد ترامپ با بیل “بوبا” کلینتون در یک موقعیت بسیار نامناسب را دیدید؟ اجرای آن تصویر از طریق Gemini تأیید می‌کند که با تولیدکننده تصویر هوش مصنوعی گوگل ساخته شده است. جمینای لزوماً قادر نخواهد بود هر تصویر هوش مصنوعی را با قطعیت شناسایی کند. اما اگر تصویری را از طریق Gemini اجرا کنید و به شما بگوید که “عکس” دارای واترمارک SynthID است، می‌دانید که واقعی نیست.

تصاویر جعلی همچنان در محیط فعلی رسانه‌های اجتماعی همه جا وجود خواهند داشت. اما حداقل گوگل به کاربر عادی ابزاری جدید داده است تا حداقل برخی از موارد جعلی را برای خودشان شناسایی کنند. تشخیص محتوای تولید شده توسط هوش مصنوعی با گذشت سال‌ها سخت‌تر و سخت‌تر خواهد شد. گاهی اوقات فقط باید کمی عقل سلیم را به کار بگیرید. برای مثال، آیا فکر می‌کنید ایلان ماسک و سام آلتمن با هم در یک پارکینگ وقت می‌گذرانند؟ با توجه به درگیری‌های بسیار عمومی آن‌ها، این امر بسیار بعید به نظر می‌رسد.

البته، بسیار بعید به نظر می‌رسید که ماسک و رئیس جمهور ترامپ دوباره با هم دوستانه شوند، آن هم پس از اینکه مدیرعامل تسلا ترامپ را به بودن در پرونده‌های اپستین متهم کرد. اما وقتی میلیاردها دلار در خطر باشد، اتفاقات عجیب‌تری هم رخ داده است.