رسوایی جدید متا؛ نمایش آگهی‌ های غیراخلاقی تولیدشده با هوش مصنوعی و تداوم شکست در حفظ ایمنی کودکان

به گزارش بخش اخبار فناوری زوم تک ، پلتفرم تبلیغاتی متا (Meta) دست به کاری زده است که بارها و بارها قول داده بود هرگز اجازه تکرار آن را ندهد. بر اساس تحقیقات جدید مجله وایرد (Wired)، شرکت متا در طول نه ماه گذشته ده‌ها آگهی تبلیغاتی پولی حاوی تصاویر صریح سوءاستفاده جنسی از کودکان تولیدشده با هوش مصنوعی (AI-generated CSAM) را نمایش داده است؛ تصاویری که برخی از آن‌ها حتی پس از مواجهه مستقیم و تذکر به این شرکت، همچنان فعال و در حال پخش باقی مانده بودند.

اگر احساس می‌کنید این داستان را قبلاً هم خوانده‌اید، به این دلیل است که احتمالاً واقعاً آن را شنیده‌اید. تنها چند هفته پیش از این گزارش جدید، بررسی مجزای شبکه بی‌بی‌سی (BBC) نشان داد که اینستاگرام (Instagram) در حال نمایش تبلیغات پولی برای ترویج محتوای سوءاستفاده جنسی از کودکان در کشور هند بوده و کاربران را به سمت کانال‌های تلگرام (Telegram) فروش محتوای غیرقانونی هدایت می‌کرده است.

آگهی‌ های مستهجن تولیدشده با هوش مصنوعی که متا آنها را تایید کرد و از آنها سود برد

پژوهشگران پروژه شفافیت فناوری (Tech Transparency Project) این آگهی‌ها را درست در داخل کتابخانه عمومی تبلیغات متا (Ad Library) کشف کردند؛ ابزاری که خود این شرکت دقیقاً برای ایجاد شفافیت در تبلیغات ساخته است. این آگهی‌ها بین نوامبر ۲۰۲۵ تا اوایل اوت ۲۰۲۶ به نمایش درآمده و به دست کاربرانی در ایالات متحده، بریتانیا و بیش از دوازده کشور اروپایی رسیده‌اند؛ به طوری که حداقل یکی از این آگهی‌ها تنها در اروپا به بیش از ۲,۵۰۰ حساب کاربری رسیده است.

کیتی پاول (Katie Paul)، مدیر پروژه شفافیت فناوری، در گفتگو با مجله وایرد اعلام کرد که این تصاویر هیچ تلاشی برای پنهان کردن آنچه ترویج می‌کردند انجام نداده بودند. وی تاکید کرد که این موارد، پست‌های عادی نبودند که از دست کنترل‌کنندگان در رفته باشند، بلکه آگهی‌های تبلیغاتی بودند که خود متا قبل از دریافت درآمد حاصل از آن‌ها، آن‌ها را بررسی و تایید کرده بود.

این‌ها محتوای تولیدشده توسط کاربران نبودند، بلکه تبلیغاتی بودند که متا رسماً آن‌ها را پذیرفته بود. چندین آگهی مستقیماً به برنامه‌های برهنه‌سازی (Nudifying Apps) لینک داده شده بودند؛ از جمله برنامه‌ای به نام MaskAI که شرکت اپل (Apple) پس از هشدار مجله وایرد، آن را از اپ استور (App Store) حذف کرد. در یک جزئیات به‌شدت نگران‌کننده، محققان در ابتدا حدود دوازده آگهی متخلف را کشف کردند، اما درست در ساعات قبل از انتشار گزارش، حدود ۳۰ آگهی دیگر را نیز یافتند که چند مورد از آن‌ها تنها پس از استعلام وایرد از متا درباره این مشکل، فعال شده بودند.

پاول همچنین خاطرنشان کرد که برخی از آگهی‌ها دقیقاً با محتواهایی مطابقت داشتند که متا قبلاً آن‌ها را به دلیل همین تخلف حذف کرده بود. این مسئله تردیدهای جدی را درباره توانایی واقعی سیستم‌های این شرکت در تشخیص متخلفان تکراری ایجاد می‌کند. بسیاری از حساب‌های منتشرکننده این آگهی‌ها فالوورهای بسیار کم یا صفر داشتند و در مواردی که اطلاعات تبلیغ‌کننده قابل مشاهده بود، ردپای چندین شرکت چینی دیده می‌شد؛ از جمله شرکتی که به عنوان نماینده فروش سابق تبلیغات متا شناسایی شده است.

پاسخ رسمی متا بار دیگر متکی بر ادبیات تکراری و آشنا بود؛ آن‌ها این محتواها را «وحشتناک» خواندند، خاطرنشان کردند که اکثر آگهی‌ها بازدید محدودی داشته‌اند و به یک سیستم تشخیص هوش مصنوعی جدید اشاره کردند؛ همراه با ادعای حذف ۳۶ میلیون محتوای مربوط به سوءاستفاده از کودکان در سال گذشته.

این اولین رسوایی متا در زمینه ایمنی کودکان نیست

تاریخچه ناکامی‌های متا در حفظ ایمنی کودکان به خیلی قبل‌تر از این هفته بازمی‌گردد. هنوز در سال ۲۰۱۷، فیس‌بوک (Facebook) ماهانه با بیش از ۵۰,۰۰۰ مورد گزارش انتقام‌جویی پورنوگرافیک و سوءاستفاده جنسی مواجه بود که باعث شد این شرکت هزاران ناظر محتوای جدید را تنها برای عقب نماندن از حجم گزارش‌ها استخدام کند.

تا سال ۲۰۱۹، پیام‌های داخلی که بعداً در دادگاه افشا شد، نشان داد که متا نحوه به اشتراک‌گذاری اطلاعات پیام‌رسان مسنجر (Messenger) با مجریان قانون را تغییر داده است؛ اقدامی که حدود ۷.۵ میلیون گزارش سوءاستفاده از کودکان را تحت تاثیر قرار داد.

در سال ۲۰۲۱، فرانسیس هوگن (Frances Haugen)، افشاگر معروف، تحقیقات داخلی را فاش کرد که نشان می‌داد پژوهش‌های خود متا ثابت کرده اینستاگرام به سلامت روان دختران نوجوان آسیب می‌زند. در همان سال، آرتورو بژار (Arturo Bejar)، یکی از مهندسان ارشد، شخصاً به مارک زاکربرگ (Mark Zuckerberg) ایمیل زد و تجربه مزاحمت جنسی برای دخترش در اینستاگرام را مطرح کرد.

در سال ۲۰۲۳، تحقیقات مشترک وال استریت ژورنال (Wall Street Journal)، دانشگاه استنفورد و دانشگاه ماساچوست آمهارست نشان داد که الگوریتم‌های اینستاگرام به طور فعال در حال اتصال و ترویج شبکه گسترده‌ای از حساب‌های پدوفیلی (کودک‌آزاری) بوده‌اند. بژار بعداً در مجلس سنا شهادت داد که ویژگی‌های ایمنی متا چیزی جز یک دارونما (Placebo) و ادعای توخالی نیست. سناتورها این وضعیت را افشاگرانه و انزجارآور خواندند و قول اقدام دادند، اما هیچ مقررات الزام‌آوری تصویب نشد و رویه‌های متا تا حد زیادی بدون تغییر باقی ماند.

یک دهه وعده‌های شکسته شده و تکراری

هشدارها برای مدت زیادی محدود به جلسات استماع کنگره نماند. دادستان کل نیومکزیکو نیز پس از یک بررسی مخفیانه که نشان داد پروفایل جعلی یک دختر ۱۳ ساله بلافاصله با درخواست‌های جنسی بزرگسالان بمباران شده است، از متا شکایت کرد. این پرونده در مارس ۲۰۲۶ با حکم هیئت منصفه مبنی بر محکومیت متا به پرداخت ۳۷۵ میلیون دلار به دلیل به خطر انداختن کودکان و گمراه کردن افکار عمومی به پایان رسید.

گزارش‌ها نشان می‌دهد شهادت‌های مطرح‌شده در آن دادگاه مشخص کرد که تغییر جهت متا به سمت نظارت بر پایه هوش مصنوعی سیستم را با گزارش‌های کم‌کیفیت پر کرده و پیشبرد تحقیقات واقعی مجریان قانون را دشوارتر ساخته است. جریمه ۳۷۵ میلیون دلاری باید به عنوان یک زنگ بیدارباش برای هر شرکتی عمل کند. این دسته از سوءاستفاده‌ها به این دلیل به یک بخش دائمی در دنیای آنلاین تبدیل شده‌اند که اجرای قوانین توسط پلتفرم‌ها برای مدتی طولانی بسیار ضعیف و منفعلانه بوده است.

آیا متا در حل این مشکل ناکام مانده یا تصمیم گرفته آن را حل نکند؟

در نقطه‌ای از زمان، خواندن این موضوع به عنوان یک «شکست تکراری» اعتبار بیش از حدی به متا می‌دهد. هر یک از این حوادث از سناریوی مشابهی پیروی می‌کنند: هر بار پژوهشگران یا خبرنگاران مستقل محتوای مشکل‌ساز را کشف می‌کنند و متا تنها پس از مواجهه علنی با افکار عمومی آن را حذف می‌کند. سپس این شرکت به آمارهای بزرگ حذف محتوا اشاره می‌کند تا ثابت کند موضوع را جدی گرفته است؛ و پس از آن، این چرخه مجدداً از نو آغاز می‌شود.

پس از نزدیک به یک دهه تکرار، و با توجه به اینکه داده‌های خود متا نشان می‌دهد این شرکت می‌تواند تخلفات تکراری را بدون اقدام علیه آن‌ها شناسایی کند، اجتناب از این نتیجه‌گیری دشوار است: به نظر می‌رسد متا به سادگی محاسبه کرده که هزینه رسوا شدن و جریمه شدن، بسیار کمتر از هزینه اصلاح سیستم‌های زیربنایی آن است.

در آینده، کاربران به بیانیه دیگری با واژه‌گزینی‌های محتاطانه از سوی متا نیاز ندارند. آن‌ها به سیستمی نیاز دارند که در همان وهله اول جلوی محتوای زیان‌بار را بگیرد. تا زمانی که چنین سیستمی وجود نداشته باشد، هر قول و وعده‌ای مبنی بر «جدی گرفتن موضوع»، تنها یک ادعای توخالی دیگر است که منتظر تحقیقات بعدی می‌ماند تا بار دیگر نادرستی آن به اثبات برسد.