کشف شبکه مخفی ابزارهای برهنه سازی در پوشش اپلیکیشن‌ های بی‌ خطر هوش مصنوعی

صدها اپلیکیشن هوش مصنوعی که ظاهر بی‌خطری داشتند، ابزارهای مخفی برهنه‌سازی و تولید دیپ‌فیک‌های غیراخلاقی را درون خود پنهان کرده بودند.

به گزارش بخش اخبار فناوری زوم تک به نقل از دیجی‌تال ترندز (Digital Trends)، یک اپلیکیشن ویرایش عکس حیوانات خانگی یا یک برنامه ورزشی هوش مصنوعی که بسیار بی‌خطر به نظر می‌رسد، ممکن است در واقع ابزارهای برهنه‌سازی مبتنی بر AI را در خود پنهان کرده باشد. بر اساس تحقیقات منتشرشده توسط نشریه WIRED، صدها اپلیکیشن در گوگل پلی استور (Google Play Store) و اپ استور اپل (Apple App Store) کشف شده‌اند که خود را به عنوان ویرایشگر عکس حیوانات، مدرس زبان، مربی ورزشی و سایر برنامه‌های معمولی جا زده بودند.

این اپلیکیشن‌های به ظاهر معمولی، تحت شرایط خاص به صورت کاملاً مخفیانه به یک رابط کاربری پنهان سوئیچ می‌کردند که اقدام به تولید دیپ‌فیک‌های غیراخلاقی و آزاردهنده می‌کرد. پژوهشگران موسسه AI Forensics این شبکه گسترده را کشف کرده‌اند که شامل بیش از ۴۰۰ اپلیکیشن و دامنه مرتبط است.

اپلیکیشن‌ های معمولی هوش مصنوعی چگونه مولدهای دیپ‌فیک را پنهان می‌کردند؟

این اپلیکیشن‌ها از یک ترفند زیرکانه در سمت سرور (Server-side) برای پنهان نگه داشتن قابلیت‌های برهنه‌سازی استفاده می‌کردند. زمانی که فردی اپلیکیشن را نصب می‌کند، برنامه اطلاعاتی نظیر موقعیت مکانی، زبان، شناسه دستگاه و نحوه آشنایی با برنامه را به یک سرور از راه دور ارسال می‌کند. سپس سرور تصمیم می‌گیرد که نسخه بی‌خطر برنامه را به کاربر نشان دهد یا رابط وب پنهان‌شده را فعال کند.

لایه مخفی این برنامه‌ها ده‌ها قالب دیپ‌فیک صریح را ارائه می‌دهد و به کاربران اجازه می‌دهد تا تصاویر واقعی افراد را آپلود کرده و آن‌ها را در صحنه‌های غیراخلاقی، از جمله مواردی همراه با تهدید و خشونت قرار دهند. به گفته پژوهشگران، محرک‌های خاصی نیز می‌توانند این رابط مخفی را نمایان کنند؛ برای مثال، نصب اپلیکیشن پس از کلیک روی یک تبلیغ در فیس‌بوک (Facebook) یا اینستاگرام (Instagram).

کاربران می‌توانند برای تولید دیپ‌فیک‌های غیراخلاقی ارز دیجیتال خریداری کنند و طبق گزارش‌ها، این شبکه از طریق تبلیغات فریبنده در پلتفرم‌های شرکت متا (Meta)، با استفاده از نام‌های تجاری جعلی و حساب‌های بدون دنبال‌کننده گسترش یافته است. این تحقیقات نشان داد که برخی از این اپلیکیشن‌ها حتی پرداخت‌ها را از طریق اپل پی (Apple Pay) و گوگل پی (Google Pay) می‌پذیرفتند. لیست ظاهر آن‌ها و رده‌بندی سنی مناسب برای تمام سنین، هیچ‌گونه هشداری به کاربران ناآگاه نمی‌داد.

چه کسانی پشت این اپلیکیشن‌ های مخرب هستند؟

نشریه WIRED بخش عمده‌ای از این شبکه را به توسعه‌دهندگان چینی و یک شرکت ثبت‌شده در هنگ‌کنگ به نام KeLing Technology Limited ردگیری کرده است؛ شرکتی که پس از برقراری تماس پژوهشگران، ردپای آنلاین خود را پاک کرد. یکی از اپلیکیشن‌های محبوب این شبکه قبل از اینکه گوگل آن را حذف کند بیش از ۱۰۰,۰۰۰ دانلود داشت، و اپل نیز پس از مطلع شدن از این طرح، ۱۹ اپلیکیشن دیگر را از استور خود پاک کرد که شامل اپلیکیشن عکس حیوانات خانگی Viefur نیز می‌شد.

اپل اعلام کرد که این اپلیکیشن‌ها در زمان بررسی اولیه با قوانین مطابقت داشته‌اند، اما توسعه‌دهندگان بعداً رفتار برنامه را تغییر داده‌اند. اخیراً اپ استور نیز قوانین خود را در برابر اپلیکیشن‌های برهنه‌سازی و ترفندهای بیت‌اندسوئیچ (Bait-and-Switch) به‌روزرسانی کرده است. متا اعلام کرده که شرکت KeLing را از تبلیغات در سال ۲۰۲۵ محروم کرده و از آن زمان تاکنون با ۱۱,۶۰۰ حساب تبلیغاتی، ۵,۲۰۰ کاربر برخورد کرده و ۲۰۹ اپلیکیشن مرتبط با این طرح را مسدود کرده است.

ممنوعیت اتحادیه اروپا برای اپلیکیشن‌های برهنه‌سازی ظرف تنها یک ماه آینده به اجرا درمی‌آید. با این حال، حتی با به پایان رسیدن تحقیقات WIRED، تبلیغات مشابه همچنان ظاهر می‌شوند که نشان می‌دهد این گردانندگان دیپ‌فیک هوش مصنوعی چقدر سرسختانه به دنبال یافتن راه‌هایی برای پیشبردن برنامه‌های خود هستند.