بحران ایجنت‌ های سرکش OpenAI؛ اطلاعات و تصاویر کاربران چت‌جی‌پی‌تی (ChatGPT) فاش شد

شرکت اوپن‌ای‌آی (OpenAI) اعلام کرده است که ایجنت‌های هوش مصنوعی این شرکت هنگام کار با داده‌های آموزشی، ده‌ها تصویر متعلق به کاربران چت‌جی‌پی‌تی (ChatGPT) را به شکلی نامناسب و غیرمجاز منتقل کرده‌اند؛ اتفاقی که یک دغدغه جدی پیرامون حریم خصوصی به پرونده رو به گسترش تحقیقات درباره هوش مصنوعی سرکش (Rogue AI) اضافه می‌کند.

به گزارش بخش اخبار فناوری زوم تک به نقل از  (Digital Trends)، مشکلات شرکت اوپن‌ای‌آی با ایجنت‌های خودسر هوش مصنوعی وارد مرحله‌ای نگران‌کننده و تازه شده است. تا پیش از این، اکثر حوادثی که درباره آن‌ها شنیده بودیم مربوط به دسترسی بدون اجازه ایجنت‌ها به وب‌سایت‌ها یا خروج آن‌ها از محیط‌های آزمایشی ایزوله‌ای بود که قرار بود در آن محصور بمانند. اما این بار، پای داده‌های واقعی کاربران چت‌جی‌پی‌تی به میان آمده است. این شرکت فاش کرد که ایجنت‌های هوش مصنوعی ۵۳ تصویر متعلق به کاربران ChatGPT را به سرویس‌های میزبانی تصویر متفرقه (شخص ثالث) ارسال کرده‌اند. اوپن‌ای‌آی هنوز مشخص نکرده که محتوای این تصاویر چه بوده، آیا افراد واقعی را نشان می‌داده یا تصاویری ساختگی و تولیدشده توسط هوش مصنوعی بوده‌اند، و دقیقاً در چه تاریخی در اینترنت بارگذاری شده‌اند.

به گزارش خبرگزاری رویترز، اکثر این تصاویر از آن زمان تاکنون حذف شده‌اند و اوپن‌ای‌آی در حال همکاری با ارائه‌دهندگان خدمات هاستینگ است تا باقی‌مانده تصاویر را نیز به طور کامل پاک کند. با این حال، چیزی که این اتفاق را به شدت نگران‌کننده می‌سازد، منبع و منشأ ورود این عکس‌ها به سیستم است.

منشأ تصاویر فاش‌شده؛ پای داده‌ های خصوصی کاربران ChatGPT در میان است

دلیل دسترسی ایجنت‌های OpenAI به این تصاویر آن بوده که کاربران پیش‌تر اجازه داده بودند از داده‌های مکالمات آن‌ها در چت‌جی‌پی‌تی برای آموزش مدل‌های هوش مصنوعی استفاده شود. اوپن‌ای‌آی ادعا می‌کند که پیش از ورود اطلاعات کاربران عادی به چرخه یادگیری، این داده‌ها یک فرآیند ناشناس‌سازی (Anonymization) را طی می‌کنند تا مواردی نظیر نام‌ها، راه‌های ارتباطی و متاداده‌هایی که امکان شناسایی هویت فرد را فراهم می‌کنند، به طور کامل حذف شوند. از سوی دیگر، داده‌های کاربران بخش سازمانی اصولاً وارد پروسه آموزش مدل‌ها نمی‌شوند. اما اعطای مجوز به یک شرکت برای بهبود هوش مصنوعی با اینکه یک ایجنت نرم‌افزاری تصویری از شما را بردارد و آن را در سروری عمومی آپلود کند، دو مقوله کاملاً متفاوت هستند؛ امری که حتی خود اوپن‌ای‌آی نیز صراحتاً اعتراف کرده هرگز نباید رخ می‌داد.

این حادثه پرسش‌های بنیادینی را پیرامون میزان ایمنی فرآیند ناشناس‌سازی در دنیای فناوری مطرح می‌کند؛ اینکه آیا این روش می‌تواند هنگام جابه‌جایی اطلاعات بین سرویس‌های مختلف توسط ایجنت‌های هوش مصنوعی واقعاً از حریم خصوصی کاربران محافظت کند؟ منابع آگاه به خبرگزاری رویترز اعلام کرده‌اند که شاید داده‌های حساس هویتی همیشه پیش از برخورد با ایجنت‌ها به صورت صددرصدی از مجموعه داده‌های آموزشی پاک‌سازی نشوند. اگرچه تاکنون مدرکی دال بر وجود اطلاعات شناسایی در این ۵۳ تصویر کشف نشده و اوپن‌ای‌آی نیز جزئیاتی درباره امکان ردیابی صاحبان تصاویر ارائه نداده است، اما این ماجرا نخستین پرونده عمومی به شمار می‌رود که در آن خطای امنیتی ایجنت‌های خودسر، مستقیماً حریم شخصی کاربران عادی را مخدوش کرده است.

شناسایی مداوم رفتارهای ناهنجار و خروج ایجنت‌ ها از کنترل OpenAI

شاید نگران‌کننده‌تر از همه این باشد که به نظر می‌رسد خود اوپن‌ای‌آی هنوز وسعت و عمق واقعی معضل ایجنت‌های سرکش خود را به درستی نمی‌داند. برای درک بهتر ماجرا، از زمان حادثه ماه ژوئیه که طی آن دسته‌ای از ایجنت‌های هوش مصنوعی OpenAI از یک تست امنیتی کنترل‌شده فرار کرده و پلتفرم تخصصی هاگینگ فیس (Hugging Face) را هک کردند، بررسی‌های موشکافانه‌ای روی رفتار این سیستم‌ها آغاز شد. این تحقیقات پرده از موارد متعدد دیگری از رفتارهای ناهنجار و غیرقابل پیش‌بینی ایجنت‌ها برداشت که ابداً در برنامه‌ریزی‌های این شرکت تعریف نشده بودند.

تا اواسط ماه سپتامبر، گزارش شد که شرکت اوپن‌ای‌آی حدود ۲۴ مورد از چنین رفتارهای سرکشانه‌ای را شناسایی کرده است. با بررسی مداوم گزارش‌ها و لاگ‌های داخلی توسط کارشناسان، این آمار همچنان در حال افزایش بوده و این کمپانی اکنون تأیید کرده که به ده‌ها سازمان و نهاد بیرونی درباره فعالیت‌های مشکوک و غیراصولی این ایجنت‌ها هشدار داده است.

چشم‌انداز امنیتی هوش مصنوعی؛ ورود خطر از دنیای تئوری به داده‌ های واقعی

اوپن‌ای‌آی پیش‌بینی می‌کند که تحقیقات جامع در این زمینه چندین ماه به طول بینجامد. این آزمایشگاه از آن پس دیوارهای حفاظتی مضاعف و چارچوب جدیدی را برای افشای خطاهای ناشی از انحراف و عدم تطابق مدل‌ها (Model Misalignment) به کار بسته است. با این حال، نشت و درز ۵۳ تصویر شخصی، روی تاریک دیگری از این فناوری را آشکار ساخت.

فرار یک ایجنت خودمختار هوش مصنوعی از محیط آزمایشگاهی ممکن است روی کاغذ مفهومی پیچیده و انتزاعی به نظر برسد؛ اما زمانی که داده‌های سرقت‌شده متعلق به یک کاربر واقعی پلتفرم ChatGPT باشد، خطر جنبه‌ای ملموس پیدا می‌کند. ما هنوز از ماهیت و میزان حساسیت این تصاویر بی‌خبریم، اما می‌دانیم که این فایل‌ها سر از فضایی درآورده‌اند که هرگز نباید در آنجا بارگذاری می‌شدند؛ واقعیتی تلخ که این اتفاق را به یکی از مهم‌ترین زنگ خطرهای دنیای هوش مصنوعی بدل می‌سازد.