حذف اپلیکیشن‌ های برهنه کننده هوش مصنوعی از اپ استور اپل؛ پایان فعالیت برنامه‌ های دیپ فیک

شرکت اپل پس از مواجهه با فشارهای قانونی شدید از سوی دادستان شهر سانفرانسیسکو، چندین اپلیکیشن مبتنی بر هوش مصنوعی موسوم به «Nudify» (برهنه‌کننده) را از اپ استور (App Store) خود حذف کرد. با این حال، این رویداد سوالی بسیار بزرگ‌تر از نقض قوانین توسط چند برنامه ساده را در ذهن ایجاد می‌کند.

به گزارش بخش اخبار فناوری زوم تک به نقل از Digital Trends، مسئله اصلی و نگران‌کننده این است که چرا این دسته از برنامه های هوش مصنوعی در وهله اول توانسته‌اند به یکی از تحت‌کنترل‌ترین و سخت‌گیرانه‌ترین بازارهای اپلیکیشن در جهان، یعنی اپ استور اپل راه پیدا کنند؟

این جنجال تازه پس از آن آغاز شد که دیوید چیو، دادستان شهر سانفرانسیسکو، نامه‌های هشداری جدی برای دو غول فناوری یعنی اپل و گوگل ارسال کرد. در این اخطاریه‌های قانونی، هر دو شرکت به تسهیل توزیع و انتشار برنامه‌هایی متهم شدند که قادر به تولید تصاویر برهنه غیررضایتمندانه با هوش مصنوعی هستند. مقامات کالیفرنیا استدلال کرده‌اند که این پلتفرم‌ها حتی از طریق خریدهای درون‌برنامه‌ای از این برنامه‌ها سود مالی کسب کرده‌اند و اکنون باید ارتباط خود را با توسعه‌دهندگانی که چنین خدماتی ارائه می‌دهند، به طور کامل قطع کنند. اپل نیز به این موضوع واکنش نشان داده و تأیید کرده است چندین مورد از این برنامه‌های شناسایی‌شده حذف شده‌اند و سایر توسعه‌دهندگان نیز در صورت عدم رعایت سیاست‌های اپ استور با خطر حذف دائمی مواجه خواهند بود.

بیانیه اپل؛ اپلیکیشن های برهنه کننده همیشه ناقض قوانین بوده‌اند

به دنبال انتشار نتایج تحقیقات رسانه WIRED، شرکت اپل در گفتگو با وب‌سایت 9to5Mac اعلام کرد برنامه‌هایی که برای تولید یا توزیع محتوای غیراخلاقی یا برهنه‌سازی طراحی شده‌اند، همیشه ناقض راهنمای بررسی اپلیکیشن (App Review Guidelines) این شرکت بوده‌اند. طبق گفته این کمپانی، سه مورد از برنامه‌هایی که توسط دفتر دادستانی سانفرانسیسکو مشخص شده بودند، پیش از این از اپ استور حذف شده‌اند و فرآیند مسدودسازی دائمی حساب‌های توسعه‌دهنده پشت آن‌ها در حال انجام است. اپل همچنین اعلام کرد با چهار توسعه‌دهنده دیگر نیز تماس گرفته و به آن‌ها هشدار داده است که موارد نقض سیاست‌ها را برطرف کنند، در غیر این صورت از این پلتفرم حذف خواهند شد.

اپل در بیانیه رسمی خود اعلام کرد:

«اپ استور به عنوان مکانی امن و قابل‌اعتماد برای کاربران طراحی شده است. ما به طور پیش‌دستانه برنامه‌های برهنه‌کننده را رد می‌کنیم و سایر موارد را نیز پس از دریافت گزارش‌های کاربران از طریق ابزارهای گزارش‌دهی حذف می‌نماییم.»

این شرکت همچنین یادآور شد که توسعه‌دهندگان مسئول نهایی محتوای تولیدشده در داخل اپلیکیشن‌های خود هستند. برنامه‌هایی که به کاربران اجازه تولید محتوا می‌دهند، باید مکانیسم‌هایی برای فیلتر کردن مواد غیراخلاقی داشته باشند، در غیر این صورت با خطر حذف کامل از اپ استور مواجه خواهند شد.

اقدام مشابه گوگل در مسدودسازی برنامه‌های Nudify در پلی استور

شرکت گوگل نیز اقدامات مشابهی را در این زمینه انجام داده است. این کمپانی اعلام کرد صدها برنامه اندروید را که قابلیت‌های برهنه‌سازی ارائه می‌دادند تعلیق کرده و جستجوی عباراتی مانند «nudify» را در گوگل پلی استور (Google Play Store) محدود کرده است. به گفته گوگل، پنج اپلیکیشن اندرویدی ذکر شده توسط دادستان سانفرانسیسکو نیز به دلیل نقض سیاست‌های پلی استور حذف شده‌اند.

متن کامل بیانیه اپل که در اختیار رسانه‌ها قرار گرفته به شرح زیر است:

«مارکت اپ استور برای این طراحی شده تا مکانی امن و قابل‌اعتماد برای کاربران باشد و ما همیشه برنامه‌هایی را که برای تولید، توزیع یا مصرف محتوای مستهجن طراحی شده‌اند، به شدت ممنوع کرده‌ایم. اپلیکیشن‌های برهنه‌سازی مغایر با اصول بررسی ما هستند و ما به طور فعال بسیاری از این برنامه‌ها را رد و بسیاری دیگر را حذف کرده‌ایم، از جمله زمانی که کاربران آن‌ها را از طریق ابزارهای گزارش‌دهی ما پرچم‌گذاری کرده‌اند. ما سه برنامه مورد بحث را حذف کرده‌ایم و در حال بستن حساب‌های توسعه‌دهنده آن‌ها از برنامه خود هستیم. ما با چهار مورد دیگر نیز در ارتباط هستیم که باید به تخلفات سیاستی خود رسیدگی کنند، در غیر این صورت آن‌ها نیز حذف خواهند شد.»

چالش بزرگ‌تر؛ ناظری بر محتوا در عصر هوش مصنوعی مولد

این اقدامات قانونی در بحبوحه نگرانی‌های فزاینده در مورد نحوه کاهش شدید موانع تولید دیپ فیک (Deepfake) توسط هوش مصنوعی مولد صورت می‌گیرد. بر خلاف روش‌های سنتی، بسیاری از ابزارهای امروزی تعویض چهره مبتنی بر هوش مصنوعی به چیزی بیشتر از یک عکس واحد نیاز ندارند. در عرض چند ثانیه، کاربران می‌توانند تصاویر برهنه ساختگی یا ویدیوهای غیراخلاقی از افراد واقعی بدون اطلاع یا رضایت آن‌ها ایجاد کنند.

مقامات دولتی می‌گویند عواقب این پدیده فراتر از نقض حریم خصوصی است. قربانیان به طور فزاینده‌ای گزارش‌هایی از مزاحمت، باج‌خواهی، آسیب به شهرت و پیامدهای شدید سلامت روان ارائه داده‌اند. تحقیقات قبلی همچنین حوادثی را در ده‌ها مدرسه فاش کرده است که در آن‌ها تصاویر سوءاستفاده جنسی از افراد زیر سن قانونی با استفاده از ابزارهای تجاری موجود در بازار تولید شده بود. چیزی که اجرای قانون را به‌ویژه دشوار می‌کند این است که بسیاری از این اپلیکیشن‌ها به طور علنی خود را به عنوان ابزار برهنه‌کننده تبلیغ نمی‌کنند. در عوض، آن‌ها خود را به عنوان برنامه‌های بی‌ضرر تعویض چهره با هوش مصنوعی یا ویرایش عکس معرفی می‌کنند. قابلیت‌های تولید تصاویر غیراخلاقی اغلب تا پس از نصب یا در پشت دیوارهای پرداخت درون‌برنامه‌ای پنهان می‌ماند، که این امر نظارت خودکار سیستم را به شدت سخت‌تر می‌کند.

تحقیقات منتشرشده در اوایل سال جاری نشان داد تعداد زیادی از برنامه‌های ظاهراً معمولی تعویض چهره، با وجود اینکه خود را آن‌گونه بازاریابی نمی‌کنند، همچنان می‌توانند دیپ فیک های غیراخلاقی ایجاد کنند. در بسیاری از موارد، محققان پادمان‌های امنیتی ناچیز یا هیچ سد دفاعی برای جلوگیری از سوءاستفاده پیدا نکردند.

مسئولیت سنگین اپل و گوگل در قبال درآمدهای درون‌برنامه‌ای

این تمایز ساختاری اکنون به محور اصلی بحث‌های پیش‌روی اپل و گوگل تبدیل شده است. هر دو شرکت تاکید دارند که سیاست‌های آن‌ها به وضوح محتوای غیراخلاقی و استثمار جنسی را ممنوع می‌کند. با این حال، منتقدان استدلال می‌کنند زمانی که برنامه‌های هوش مصنوعی می‌توانند عملکردهای مخرب خود را در پشت ویژگی‌های مشروع پنهان کنند، دیگر وجود سیاست‌ها به تنهایی کافی نیست. دفتر دادستانی نیز ادعا می‌کند که اپل و گوگل از طریق کمیسیون‌های خریدهای درون‌برنامه‌ای از این برنامه‌ها سود مالی می‌برند و معتقد است که گردانندگان پلتفرم مسئولیت بزرگ‌تری برای شناسایی و حذف آن‌ها قبل از رسیدن به دست کاربران دارند.

برای اپل، حذف‌های اخیر ممکن است به رفع انتقادهای فوری کمک کند، اما بعید است که به این بحث گسترده‌تر پایان دهد. از آنجا که هوش مصنوعی مولد روز به روز ارزان‌تر، سریع‌تر و به طور فزاینده‌ای قادر به تولید رسانه‌های مصنوعی واقع‌گرایانه می‌شود، بررسی اپلیکیشن دیگر فقط شامل چک کردن اسکرین‌شات‌ها یا توضیحات توسعه‌دهنده نیست. این فرآیند اکنون نیازمند شناسایی این موضوع است که یک مدل هوش مصنوعی را پس از نصب به تولید چه چیزهایی می‌توان ترغیب و مجاب کرد؛ وظیفه‌ای که به مراتب دشوارتر از روش‌های نظارتی و سنتی گذشته است.

بعید است این چالش به این زودی‌ها ناپدید شود و سوالاتی که از شرکت‌های اداره‌کننده بزرگ‌ترین استورهای اپلیکیشن جهان پرسیده می‌شود نیز به قوت خود باقی خواهد ماند.