اپل قوانین اپ استور را سخت‌تر کرد؛ مقابله جدی با اپلیکیشن‌ های هوش مصنوعی برهنه‌ ساز

اقدام جدید اپل برای مقابله با تولید تصاویر مستهجن بدون رضایت افراد

مفهوم امنیت و حریم خصوصی در عصر هوش مصنوعی وارد مرحله تازه‌ای شده است؛ جایی که سوءاستفاده از ابزارهای بصری می‌تواند خسارات جبران‌ناپذیری به همراه داشته باشد.

به گزارش بخش اخبار فناوری زوم تک به نقل از Digital Trends، شرکت اپل (Apple) در حال سخت‌تر کردن قوانین اپ استور (App Store Rules) است تا با اپلیکیشن‌های برهنه‌ساز هوش مصنوعی (AI Nudify Apps) که بدون رضایت افراد اقدام به تولید تصاویر مستهجن از واقعیت می‌کنند، به شدت برخورد کند. دستورالعمل‌های به‌روزرسانی‌شده، توسعه‌دهندگان را موظف می‌سازد تا به‌طور فعال از انتشار تصاویر مستهجن بدون رضایت (Nonconsensual Intimate Imagery)، از جمله محتوای تولیدشده توسط ابزارهای هوش مصنوعی، جلوگیری و آن‌ها را حذف کنند. این اقدام ماه‌ها پس از آن صورت می‌گیرد که مقامات سانفرانسیسکو از اپل و گوگل خواستند چنین برنامه‌هایی را مسدود کنند. اکنون اپل انتظارات خود را شفاف‌تر کرده و مشخص ساخته است که در صورت پنهان‌کاری ویژگی‌های مضر توسط توسعه‌دهندگان در فرآیند بررسی، چه عواقبی در انتظار آن‌ها خواهد بود.

اپل از توسعه‌ دهندگان می‌خواهد رفتاری فراتر از ممنوعیت ساده داشته باشند

اپل به‌طور رسمی دستورالعمل‌های بررسی اپ استور (App Review Guidelines) را به‌روزرسانی کرده است تا صراحتاً شامل محتوای مستهجن تولیدشده توسط هوش مصنوعی شود. طبق قوانین جدید، برنامه‌هایی که میزبان محتوای تولیدشده توسط کاربر هستند، باید دارای مکانیزم‌های حفاظتی برای فیلتر کردن محتوای نامناسب، راه‌هایی برای گزارش محتوای توهین‌آمیز، امکان مسدودسازی حساب‌های مخرب و پاسخگویی به شکایات باشند. همچنین توسعه‌دهندگان اپلیکیشن باید به صورت فعالانه از انتشار تصاویر برهنه بدون رضایت جلوگیری و آن‌ها را پاکسازی کنند. کسانی که از اجرای تدابیر ایمنی کافی خودداری کنند یا پس از دریافت اخطار به تخلفات رسیدگی نکنند، با خطر حذف از اپ استور مواجه خواهند شد.

این غول فناوری همچنین در حال برخورد با توسعه‌دهندگانی است که هدف واقعی یک برنامه را در طول فرآیند ارزیابی و بررسی مخفی می‌کنند. قوانین جدید بر ممنوعیت دیرینه اپل روی قابلیت‌های پنهان، خفته یا ثبت‌نشده تأکید دارد؛ از جمله برنامه‌هایی که قابلیت‌های برهنه‌سازی با هوش مصنوعی را تنها پس از تأیید نهایی برنامه فعال می‌کنند. اپل اعلام کرده است که می‌تواند برنامه‌های متخلف را حذف کرده و حساب کاربری توسعه‌دهندگان آن‌ها را در برنامه توسعه‌دهندگان اپل (Apple Developer Program) مسدود کند. این شرکت همچنین شفاف‌سازی کرده است که برنامه‌های تسهیل‌کننده قاچاق انسان یا سوءاستفاده از کودکان، حذف شده و از انتشار در روش‌های توزیع جایگزین نیز منع می‌شوند.

تشدید قوانین اپ استور پس از ماه‌ ها انتقاد و فشارهای حقوقی

این به‌روزرسانی پس از ماه‌ها بررسی و انتقاد شدید درباره ظهور اپلیکیشن‌ های هوش مصنوعی برهنه‌ساز در فروشگاه اپل انجام می‌شود. در ماه ژوئیه، دیوید چیو، دادستان شهری سانفرانسیسکو، نامه‌های هشداری برای اپل و گوگل ارسال کرد و خواستار حذف برنامه‌هایی شد که قادر به تولید تصاویر مستهجن بدون رضایت اشخاص هستند. این اقدام پس از تحقیقات درباره ابزارهای هوش مصنوعی صورت گرفت که می‌توانستند افراد را به صورت دیجیتالی برهنه کنند. هم‌زمان، حواشی جنجالی حول محور استفاده از مدل هوش مصنوعی Grok برای تولید دیپ‌فیک‌های جنسی (Sexual Deepfakes)، پرسش‌ها درباره نحوه مدیریت سوءاستفاده‌های هوش مصنوعی توسط پلتفرم‌ها را شدت بخشید. اپل می‌گوید برنامه‌های برهنه‌ساز مدت‌هاست که قوانین آن را نقض کرده‌اند، بنابراین تغییرات اخیر را باید به عنوان گسترش صریح حفاظت‌های موجود دانست، نه یک ممنوعیت کاملاً جدید.

چالش اصلی؛ آیا قوانین جدید اپل در عمل موفق خواهند بود؟

پرسش بزرگ‌تر این است که آیا قوانین شفاف‌تر به اجرای بهتر نظارت در اپ استور منجر خواهد شد یا خیر. اپل روی کاغذ می‌تواند قابلیت‌های برهنه‌سازی را ممنوع کند، اما توسعه‌دهندگانی که عملکرد مضر برنامه را پنهان می‌کنند یا آن را پس از تأیید وارد کد می‌کنند، همچنان می‌توانند فرآیند بررسی را به چالش بکشند. دستورالعمل‌های به‌روزرسانی‌شده مبنای واضح‌تری برای اقدام به اپل می‌دهد؛ از جمله حذف برنامه‌ها و مسدودسازی حساب‌های توسعه‌دهندگان. اما برای کسی که تصاویرش بدون رضایت دستکاری شده است، فاصله بین یک برنامه ممنوع‌شده و برنامه‌ای که هرگز وارد فروشگاه نمی‌شود، بسیار حیاتی و بزرگ است. اپل قوانین را سخت‌تر کرده است و اکنون باید مطمئن شود که این برنامه‌ها دیگر از زیر دست ارزیابان در نخواهند رفت.