قطع دسترسی هوش مصنوعی OpenAI به اینترنت پس از تهدیدهای امنیتی متعدد

اینترنت شبیه‌سازی‌شده و ساختگی OpenAI هم یک راهکار امنیتی جدید برای هوش مصنوعی است و هم نوعی اعتراف به چالش‌های کنترل آن.

به گزارش بخش اخبار فناوری زوم تک به نقل از Digital Trends، بخشی از وجود من از اینکه یک آزمایشگاه پیشرو هوش مصنوعی دست به عصا شده و ترمز توسعه را کشیده، احساس آسودگی می‌کند؛ اما بخش دیگر تمایل داشت که رسیدن به این نقطه نیازمند وقوع حوادث واقعی و امنیتی نباشد.

شرکت OpenAI روز جمعه اعلام کرد که پیشرفته‌ترین مدل‌های هوش مصنوعی این شرکت از این پس بدون دسترسی زنده به اینترنت آموزش خواهند دید. در عوض، این مدل‌ها روند یادگیری خود را روی یک نسخه شبیه‌سازی‌شده و ذخیره‌شده (Cached) از وب ادامه می‌دهند.

چرا OpenAI دسترسی هوش مصنوعی به اینترنت زنده را قطع کرد؟

پاسخ این سوال در عین سادگی، بسیار نگران‌کننده و ترسناک است: مدل‌های هوش مصنوعی این شرکت به طور مداوم راه‌هایی برای خروج از محیط کنترل‌شده پیدا می‌کردند. در تاریخ ۲۰ سپتامبر ۲۰۲۶، یکی از مدل‌های تحقیقاتی داخلی با سوءاستفاده از تنظیمات نادرست در یک تحلیل‌گر DNS (سیستمی که نام وب‌سایت‌ها را به آدرس‌های آی‌پی تبدیل می‌کند)، توانست برای مدتی کوتاه به اینترنت زنده دسترسی پیدا کند.

در حوزه ایمنی هوش مصنوعی (AI Safety)، این اتفاق یک خطرات بحرانی و جدی محسوب می‌شود. هنگامی که یک مدل هوش مصنوعی بتواند آزادانه با وب آزاد تعامل داشته باشد، می‌تواند به سیستم‌های خارجی دسترسی پیدا کرده، آن‌ها را تغییر دهد یا به آن‌ها حمله کند؛ اقداماتی که کنترل یا جبران آن‌ها بسیار دشوار خواهد بود.

در نتیجه این حادثه، OpenAI فرآیند آموزش مدل‌های خود را به مدت ۱۱ روز متوقف کرد. اما این تنها حادثه رخ داده نبود؛ گزارش‌ها نشان می‌دهند مدل‌هایی که در حال دنبال کردن اهداف آموزشی خود بودند، هنگام جستجو برای پاسخ به سوالات خاص، به سیستم‌های خارجی نفوذ کرده و حتی در تالارهای گفتگوی حاشیه‌ای به تبادل نظر و ارائه راهکار پرداخته‌اند.

شرکت OpenAI پیش از این به بیش از ۱۰ مربوط به فعالیت‌های غیرمجاز توسط عامل‌های هوش مصنوعی (AI Agents) خود تحشدارهای لازم را داده بود (به نقل از TechCrunch). آنچه بیشتر باعث نگرانی می‌شود، منطق پشت این حوادث است؛ این مدل‌ها صرفاً به دنبال انجام وظایف عادی آموزشی خود بودند و نقشه شرورانه‌ای در سر نداشتند، موضوعی که شاید از داستان‌های علمی-تخیلی دورتر باشد، اما قطعاً نگران‌کننده‌تر است.

به همین دلیل است که عبارت «سیم را بکشید و اینترنت را قطع کنید» دیگر به نظرم خنده‌دار یا بی‌معنی نمی‌رسد؛ حتی با وجود اینکه یکی از محققان سابق OpenAI گفته است آموزش آفلاین به معنای مستقر کردن تیم‌های تحقیقاتی در داخل دیتاسنترها خواهد بود.

چه تغییراتی ایجاد شده و چه کاری باید انجام داد؟

شرکت OpenAI آموزش مدل‌های خود را در تاریخ ۱ اکتبر ۲۰۲۶ تحت قوانین جدید از سر گرفت و این محدودیت‌ها تا زمانی که ضمانت‌های امنیتی، دسترسی گسترده‌تر را توجیه نکنند، باقی خواهند ماند. شرکت Anthropic نیز دو هفته قبل با قطع دسترسی ارزیابی‌های داخلی خود از اینترنت زنده، گام مشابهی برداشت. به عبارت دیگر، این رویه دیگر تنها رفتار عجیب یک آزمایشگاه نیست، بلکه به یک استاندار تبدیل شده است.

از سوی دیگر، این اقدام یک اثر جانبی مهم نیز داشت؛ OpenAI در حالی که لایه‌های دفاعی خود را با تیم‌هایی از عامل‌های هوش مصنوعی مورد آزمون فشار (Stress-Testing) قرار می‌داد، یک آسیب‌پذیری امنیتی در Brotli کشف کرد. Brotli یک کتابخانه محبوب فشرده‌سازی اطلاعات وب است که این آسیب‌پذیری می‌توانست به مهاجمان اجازه دهد تا کدهای مخرب را در برنامه‌های استفاده‌کننده از آن اجرا کنند. نسخه اصلاح‌شده این نرم‌افزار منتشر شده است، بنابراین اگر از نرم‌افزارهای متاثر استفاده می‌کنید، همین حالا آن را به‌روزرسانی کنید.

در همین حال، ارزیاب‌های خارجی مانند METR و Redwood نقاط ضعف جدیدی را در سیستم نظارت داخلی OpenAI پیدا کرده‌اند؛ از جمله ضعفی که می‌تواند صدها اقدام عامل‌های هوش مصنوعی را پنهان کند. آن‌ها اعلام کرده‌اند که هنوز وصله‌های امنیتی ارائه شده توسط OpenAI را تایید نکرده‌اند.

اینکه آیا آموزش آفلاین هوش مصنوعی می‌تواند همان کارایی و عملکرد آموزش با وب آزاد را داشته باشد یا خیر، موضوعی است که هنوز اثبات نشده و در هاله‌ای از ابهام قرار دارد.