رسوایی جدید متا؛ تایید تبلیغات ترویج سوءاستفاده از کودکان در اینستاگرام هند

سیستم بررسی و نظارت بر آگهی‌های اینستاگرام بار دیگر با چالشی جدی مواجه شده و نتوانسته است جلوی انتشار و ترویج تبلیغات مربوط به سوءاستفاده از کودکان را بگیرد. این موضوع موجی از انتقادات شدید را علیه شرکت متا به راه انداخته است.

به گزارش بخش اخبار فناوری زوم تک به نقل از بی‌بی‌سی (BBC)، یک تحقیق افشاگرانه نشان می‌دهد که اینستاگرام آگهی‌های پولی را که محتوای سوءاستفاده جنسی از کودکان (CSAM) را به کاربران در هند ترویج می‌کردند، تایید و نمایش داده است. این اتفاق سوالات جدی جدیدی را در مورد اثربخشی سیستم‌های تعدیل محتوای متا و چالش رو به رشد نظارت بر محتوای غیرقانونی در شبکه‌های اجتماعی ایجاد کرده است.

عبور تبلیغات پولی از فیلترهای نظارتی و الگوریتم‌ های متا

این تحقیقات که توسط بخش BBC Eye انجام شده، ده‌ها آگهی حاوی عبارات صریح و غیرقانونی را کشف کرده است. این تبلیغات، کاربران را به کانال‌های تلگرام هدایت می‌کردند؛ جایی که محتوای غیرقانونی با مبالغی ناچیز در حدود ۹۹ روپیه هند (تقریباً ۱ دلار) به فروش می‌رسید.

بر اساس گزارش بی‌بی‌سی، این آگهی‌ها در یک حساب کاربری تازه ایجاد شده در اینستاگرام ظاهر شدند که دقیقاً برای بررسی نحوه پیشنهاد و توصیه محتوای جنسی توسط الگوریتم‌های این پلتفرم راه‌اندازی شده بود. پس از فالو کردن تعداد کمی از حساب‌هایی که محتوای معمولی اما تا حدی تحریک‌آمیز پست می‌کردند، این حساب کاربری شروع به دریافت تبلیغات به شدت صریح و مستهجن کرد.

تنها ظرف چند روز، اینستاگرام شروع به نمایش آگهی‌های پورنوگرافی بزرگسالان کرد و سپس به سمت تبلیغاتی رفت که کودکان را در موقعیت‌های نامناسب نشان می‌داد و به طور مستقیم به کانال‌های تلگرامی فروش محتوای سوءاستفاده از کودکان لینک می‌شدند. در مجموع، بی‌بی‌سی حدود ۳۰ آگهی منحصربه‌فرد ترویج سوءاستفاده از کودکان را در کنار تقریباً ۲۰ آگهی پورنوگرافی بزرگسالان مستند کرده است.

پاسخ عجیب پشتیبانی اینستاگرام و واکنشی که دیر انجام شد

در یک مورد تکان‌دهنده، بی‌بی‌سی آگهی دختری جوان و پریشان را گزارش کرد که متن همراه آن نشان می‌داد مورد تعرض قرار گرفته است. ۲۴ ساعت بعد، اینستاگرام پاسخ داد که این آگهی قوانین جامعه (Community Guidelines) این پلتفرم را نقض نکرده است و آنلاین باقی خواهد ماند! تنها پس از اینکه بی‌بی‌سی برای دریافت توضیحات با شرکت متا تماس گرفت، این شرکت چندین آگهی را غیرفعال، حساب‌های مرتبط را تعلیق، محتوای نقض‌کننده اضافی را حذف و آدرس‌های اینترنتی (URL) مرتبط را مسدود کرد.

متا با اذعان به اینکه «هیچ سیستمی کامل نیست» اعلام کرد که به بهبود فناوری‌های تشخیص خودکار خود ادامه می‌دهد و در عین حال موارد مشهود استثمار کودکان را طبق قانون به مرکز ملی کودکان مفقود شده و مورد سوءاستفاده قرار گرفته (NCMEC) گزارش می‌دهد. این شرکت ادعاها مبنی بر اینکه عمداً چنین تبلیغاتی را برای کاربران هدف‌گذاری کرده است رد کرد و استثمار کودکان را یک «جنایت هولناک» توصیف کرد که فعالانه برای مبارزه با آن تلاش می‌کند.

انتقاد کارشناسان از سیستم‌ های نظارتی؛ تلگرام نیز زیر ذره‌ بین قرار دارد

این تحقیقات همچنین بر نقش پلتفرم تلگرام در توزیع این مواد مخرب دست گذاشته است. بی‌بی‌سی دو کانال تلگرامی را گزارش کرد که ویدیوهای سوءاستفاده از کودکان را می‌فروختند. یکی از آن‌ها پس از گزارش حذف شد، در حالی که دیگری به آپلود محتوای جدید ادامه داد. تلگرام به بی‌بی‌سی اعلام کرد که از هر دو سیستم خودکار و ناظران انسانی برای حذف این نوع محتوا استفاده می‌کند و ادعا کرد که بیش از ۲۷۴,۰۰۰ گروه و کانال مرتبط با این موضوع را در سال ۲۰۲۶ مسدود کرده است.

این یافته‌ها واکنش‌های شدیدی را از سوی کارشناسان حقوقی و مدیران سابق متا به همراه داشته است. مدان لوکور، قاضی بازنشسته دیوان عالی هند، این موضوع را آن‌قدر جدی توصیف کرد که دیوان عالی هند باید به آن ورود کند؛ وی استدلال کرد که پلتفرم‌های رسانه‌های اجتماعی نمی‌توانند صرفاً به این دلیل که کاربران محتوای غیرقانونی آپلود می‌کنند، از زیر بار مسئولیت شانه خالی کنند.

اولویت داشتن درآمد و تعامل بر امنیت کاربران در اینستاگرام

برایان بولاند، مدیر سابق فیس‌بوک که قبل از ترک این شرکت در سال ۲۰۲۰ به ساخت کسب‌وکار تبلیغاتی آن کمک کرده بود، به بی‌بی‌سی گفت که از این یافته‌ها «وحشت‌زده شده اما تعجب نکرده است». بولاند استدلال کرد که سیستم‌های توصیه و الگوریتم اینستاگرام تعامل کاربران (Engagement) و درآمدزایی را در اولویت قرار می‌دهند. او هشدار داد که بدون پادمان‌ها و ابزارهای حفاظتی قوی‌تر، این سیستم‌ها می‌توانند به طور ناخواسته محتوای افراطی و خطرناک را تقویت کنند.

این تحقیقات همچنین توجه‌ها را به مقیاس بزرگ این بحران در هند جلب می‌کند. بر اساس این گزارش، این کشور در سال ۲۰۲۵ بالغ بر ۱.۹ میلیون گزارش سایبری مربوط به محتوای سوءاستفاده جنسی از کودکان دریافت کرده است که از این حیث در رتبه دوم پس از ایالات متحده قرار دارد. مقامات جرایم سایبری هند و سازمان‌های حمایت از کودکان به بی‌بی‌سی گفتند که پلتفرم‌های متا سهم بزرگی از این گزارش‌ها را تولید می‌کنند، در حالی که خاطرنشان کردند برای متلاشی کردن شبکه‌های جنایی مسئول تولید و توزیع این محتوا، به همکاری‌های بین‌المللی قوی‌تری نیاز است.