رونمایی متا از ابزارهای جدید هوش مصنوعی برای شناسایی تبلیغات مخرب و سوءاستفاده جنسی از کودکان

شرکت متا (Meta) از توسعه و عرضه ابزارهای مبتنی بر هوش مصنوعی جدیدی خبر داده است که برای شناسایی و مسدودسازی تبلیغات فریبنده‌ای طراحی شده‌اند که کاربران را به طور مخفیانه به سمت محتوای غیرقانونی و سوءاستفاده جنسی از کودکان (CSAM) هدایت می‌کنند.

به گزارش بخش اخبار فناوری زوم تک به نقل از تک‌کرانچ، این تبلیغات که اصطلاحاً «علامت‌دهی» (Signposting) نامیده می‌شوند، در ظاهر بسیار معمولی و بی‌خطر به نظر می‌رسند اما لینک‌ها و مسیرهای تعبیه‌شده در آن‌ها، کاربران را به وب‌سایت‌ها و کانال‌های خارجی حاوی محتوای آسیب‌رسان هدایت می‌کنند. متا اعلام کرده است که در نیمه اول سال ۲۰۲۶ میلادی، علیه ۳۳.۲ میلیون مورد از این‌گونه محتواها در سراسر جهان اقدام کرده است.

عملکرد سیستم‌ های هوشمند متا و آمارهای کلیدی پایش محتوا

بر اساس گزارش‌های رسمی شرکت متا، سیستم‌های خودکار این شرکت موفق شده‌اند بیش از ۹۷ درصد از محتواهای مغایر با قوانین را پیش از آنکه توسط کاربران گزارش شوند، به صورت هوشمند شناسایی و حذف کنند. این رقم نشان‌دهنده اتکای روزافزون شبکه‌های اجتماعی فیس‌بوک و اینستاگرام به الگوریتم‌های پیشرفته برای پاک‌سازی فضای مجازی است.

همچنین در کشور هند، متا در همین بازه زمانی شش‌ماهه علیه ۵.۳ میلیون مورد از محتواهای مربوط به استثمار جنسی کودکان اقدام کرده که بیش از ۹۸ درصد آن‌ها پیش از دریافت هرگونه گزارش یا شکایت مردمی، توسط سیستم‌های داخلی شناسایی شده بودند. این اقدامات پس از آن شدت گرفت که وزارت فناوری اطلاعات هند در ماه ژوئیه اخطاریه‌ای در خصوص این‌گونه تبلیغات در اینستاگرام صادر کرد و مدیران ارشد متا را فراخواند. در پی این رویداد، متا متعهد شد که گزارش‌های مربوط به ایمنی کودکان را مستقیماً به پورتال جرایم سایبری هند (I4C) ارسال کند.

ابزارهای جدید هوش مصنوعی متا چگونه عمل می‌کنند؟

تکنولوژی‌های جدید متا فراتر از بررسی ظاهر و متن آگهی‌ها عمل می‌کنند. سیستم‌های هوش مصنوعی جدید نه تنها محتوای ظاهری تبلیغات را اسکن می‌کنند، بلکه مقصد نهایی لینک‌ها را نیز تحلیل می‌نمایند. با استفاده از این قابلیت، امکان مسدودسازی وب‌سایت‌های مخرب، کانال‌های متخلف و حساب‌های کاربری مرتبط با آن‌ها فراهم می‌شود.

۱. قابلیت Red-Teaming و شبیه‌سازی حملات سایبری

یکی از نوآوری‌های مهم متا، استفاده از عامل‌های هوش مصنوعی برای تست نفوذ و ارزیابی مکانیزم‌های امنیتی خود (Red-Teaming) است. این هوش مصنوعی به‌طور فعال در پی یافتن نقاط ضعف و روزنه‌هایی است که افراد سوءاستفاده‌گر ممکن است برای دور زدن سیستم‌های حفاظتی از آن‌ها بهره ببرند. شناسایی پیش‌دستانه این روزنه‌ها به متا کمک می‌کند پیش از گسترش روش‌های جدید نفوذ، جلو آن‌ها را بگیرد.

۲. شناسایی حساب‌های کاربری بازسازی‌شده

یکی دیگر از چالش‌های بزرگ شبکه‌های اجتماعی، بازگشت مجدد مجرمان سایبری با اکانت‌های جدید پس از مسدود شدن حساب قبلی است. متا سیستم‌های خود را برای شناسایی الگوی رفتار کاربرانی که پس از بسته شدن حساب کاربری‌شان اقدام به ساخت اکانت جدید می‌کنند، ارتقا داده است تا مانع فعالیت مجدد آن‌ها شود.

۳. اسکن‌های تکمیلی و هوشمند

متا همچنین اسکن‌های مبتنی بر هوش مصنوعی جدیدی را فعال کرده است تا محتواهایی را که ممکن است از دید سیستم‌های قدیمی‌تر پنهان مانده باشند، کشف کند. این شرکت اعلام کرده که با شناخت بیشتر نحوه عملکرد این شبکه‌های سازمان‌یافته، سیگنال‌ها و معیارهای جدیدی را به الگوریتم‌های خود اضافه خواهد کرد.

فشارهای نظارتی و توسعه ابزارهای حمایتی برای والدین

افزایش فشارهای نظارتی از سوی نهادهای دولتی و بین‌المللی، غول‌های فناوری را مجبور به اتخاذ تدابیر امنیتی جدی‌تر کرده است. در همین راستا، پیام‌رسان واتساپ (WhatsApp) در ماه سپتامبر کنترل‌های جدیدی را برای والدین معرفی کرد. این ابزارها به والدین اجازه می‌دهند نحوه استفاده نوجوانان از کانال‌ها را محدود کرده، مشاهده به‌روزرسانی‌های وضعیت (Status) را کنترل کنند و مانع از افزودن فرزندانشان به گروه‌های ناشناس شوند. همچنین امکان دریافت اعلان درباره فعالیت‌های گروهی خاص نیز برای والدین فراهم شده است.