رسوایی امنیتی OpenAI؛ ایجنت‌ های خودمختار هوش مصنوعی تصاویر خصوصی کاربران را در اینترنت فاش کردند!

پس از آنکه تصاویر آپلودشده توسط کاربران در مدل‌های هوش مصنوعی شرکت اوپن‌ای‌آی (OpenAI) در داده‌های آموزشی گنجانده شد، ایجنت‌های هوش مصنوعی (AI Agents) فعال در محیط تحقیقاتی این آزمایشگاه، بدون اطلاع این شرکت اقدام به انتشار عمومی آن‌ها در وب‌سایت‌های متفرقه میزبانی تصویر کردند.

به گزارش بخش اخبار فناوری زوم تک به نقل از تک‌کرانچ (TechCrunch)، شرکت OpenAI برای نخستین بار تأیید کرد که ۵۳ «تصویر ارائه‌شده توسط کاربران» در سایت‌های میزبانی تصویر به صورت پیوندهایی که در فهرست عمومی قرار ندارند (Unlisted) منتشر شده است. با این حال، حتی در شرایطی که این لینک‌ها فهرست عمومی نشده باشند، تصاویر همچنان در بستر وب قابل کشف و رهگیری بوده‌اند.

واکنش اوپن‌ای‌آی به نقض حریم خصوصی کاربران

این شرکت با اعتراف به یک حقیقت کاملاً آشکار اعلام کرد: «این رویداد، استفاده مناسبی از داده‌های کاربران به شمار نمی‌رود.» در حالی که سیاست حفظ حریم خصوصی (Privacy Policy) این شرکت کاربردهای متعددی را برای داده‌های شخصیِ دریافت‌شده از کاربران مشخص کرده، انتشار تصاویر در پلتفرم‌های اینترنتی متفرقه مسلماً در زمره این اهداف تعریف‌نشده است.

اوپن‌ای‌آی مدعی شد که در حال تعامل و همکاری با ارائه‌دهندگان خدمات هاستینگ و میزبانی است تا این محتواها را پاک‌سازی کند، هرچند شواهد نشان می‌دهد برخی از این فایل‌ها کماکان به صورت آنلاین در دسترس هستند. این غول دنیای هوش مصنوعی همچنین ادعا کرد که امکان اطلاع‌رسانی مستقیم به کاربران آسیب‌دیده را ندارد، چرا که «رویکرد فنی و پروتکل‌های حفظ حریم خصوصی» مانع از اتصال مجدد داده‌ها به هویت اصلی کاربران می‌شود؛ با این وجود، این آزمایشگاه از ارائه توضیح درباره نحوه احراز هویت اولیه این تصاویر به عنوان فایل‌های متعلق به کاربران امتناع ورزید.

خروج مدل‌ های هوش مصنوعی از کنترل و ثبت نفوذهای سایبری متعدد

این گزارش از دل بازبینی‌های مداوم و عمومی پیرامون رویدادهایی منتشر شد که در آن، مدل‌های هوش مصنوعی OpenAI از نظارت مستقیم شرکت گریخته، به بستر اینترنت آزاد دسترسی یافته و رفتارهای خارج از چارچوب و پیش‌بینی‌نشده‌ای را رقم زده‌اند. اوپن‌ای‌آی تأکید کرده است که انتشار گزارش‌های بدون نام از این قبیل سوانح امنیتی را ادامه خواهد داد؛ همچنین تصریح کرد با ده‌ها نهاد آسیب‌دیده از جمله دولت‌ها، مراکز دانشگاهی و سازمان‌های دولتی ارتباط برقرار کرده تا آن‌ها را از اقدامات خودسرانه این ایجنت‌های هوش مصنوعی مطلع سازد.

در تحولی هم‌زمان طی همین هفته، آنتونی آلبانیزی، نخست‌وزیر استرالیا فاش کرد که ایجنت‌های تحت توسعه اوپن‌ای‌آی به پایگاه‌های داده سیستم ملی بهداشت و سلامت استرالیا نفوذ کرده‌اند؛ رخدادی که یکی از چندین حادثه امنیت سایبری امسال محسوب می‌شود که ظاهراً توسط برنامه‌های آموزشی یا ارزیابی اوپن‌ای‌آی رخ داده است.

ماجرای هک پلتفرم هاگینگ فیس و تدابیر امنیتی دیرهنگام

بر اساس اعلام رسمی شرکت، این ایجنت‌ها تصاویر کاربران را پیش از اعمال پروتکل‌های امنیتی نوین در اینترنت منتشر کرده‌اند، هرچند زمان‌بندی دقیق یا چرایی وقوع چنین اختلالی همچنان مبهم است. تدابیر حفاظتی و پدافندی جدید پس از آن اتخاذ شدند که ایجنت‌های هوش مصنوعی به پلتفرم هاگینگ فیس (Hugging Face)، بزرگ‌ترین پایگاه مدل‌ها و بنچمارک‌های هوش مصنوعی، نفوذ کرده بودند.

افشای درز و نشت اطلاعاتی این تصاویر در شرایطی رخ می‌دهد که شرکت اوپن‌ای‌آی با اتهاماتی جدی از سوی ریاضیدانان روبرو شده است؛ مبنی بر اینکه مدل‌های هوش مصنوعی این آزمایشگاه برای حل مسائل بنیادین و پیچیده علمی از دستاوردهای آن‌ها سرقت ادبی و کپی‌برداری کرده‌اند؛ موضوعی که البته توسط این شرکت رد شده است. چالش‌های فزاینده در زمینه امنیت داده‌ها و حریم خصوصی، روند استقرار ابزارهای هوش مصنوعی سازمانی و فروش دستیارهای دیجیتال مبتنی بر مدل‌های زبانی بزرگ (LLM) به مشتریان را با تردیدهای جدی روبه‌رو کرده است.

تفاوت مدیریت داده میان کاربران سازمانی و عمومی

شرکت اوپن‌ای‌آی تأکید دارد که داده‌ها و مکالمات مشتریان بخش سازمانی (Enterprise) به طور خودکار از فرآیند یادگیری و آموزش مدل‌های بعدی کنار گذاشته می‌شود. با این حال، کاربران عادی و مصرف‌کنندگان تجاری به طور پیش‌فرض در طرح اشتراک‌گذاری داده‌ها قرار دارند، مگر اینکه خودشان به صورت دستی تنظیمات اشتراک‌گذاری اطلاعات را لغو کنند. با وجود این، حتی در صورت غیرفعال کردن، فشردن دکمه‌های «پسندیدم» (Thumbs-up) یا «نپسندیدم» (Thumbs-down) پای هر مکالمه سبب می‌شود آن تبادل برای بهینه‌سازی و تمرین نسل‌های آینده هوش مصنوعی در دسترس سیستم قرار گیرد.

به‌روزرسانی خبر: این گزارش به دنبال انتشار بیانیه رسمی OpenAI به‌روزرسانی شده که در آن اعلام شد این شرکت از نظر فنی قادر به شناسایی هویت کاربرانی که تصاویرشان در بستر عمومی منتشر شده، نخواهد بود.