نفوذ ایجنت‌ های سرکش هوش مصنوعی اوپن‌ای‌آی به نهادهای دولتی آمریکا؛ عبور از خطوط قرمز امنیتی

شرکت اوپن‌ای‌آی (OpenAI) هم‌زمان با ادامه تحقیقات موشکافانه درباره رفتار چندماهه ایجنت‌های هوش مصنوعی (AI Agents) خود، به فعالیت‌های غیرمنتظره این سیستم‌ها در تعامل با وب‌سایت‌های سازمان‌های فدرال ایالات متحده از جمله وزارت بازرگانی و کمیسیون بورس و اوراق بهادار (SEC) اعتراف کرده است.

به گزارش بخش اخبار فناوری زوم تک به نقل از (Digital Trends)، بحران ایجنت‌های خودسر هوش مصنوعی اوپن‌ای‌آی قصد فروکش کردن ندارد. درست یک روز پس از انتشار جزئیات نفوذ یکی از این ایجنت‌ها به سامانه‌های دولتی استرالیا، اکنون مشخص شده است که پای آژانس‌های فدرال ایالات متحده نیز به پرونده تحقیقات این شرکت باز شده است؛ رویدادی که به دنبال فرار پیشین ایجنت‌های OpenAI از یک آزمایش کنترل‌شده امنیت سایبری و نفوذ به پلتفرم هاگینگ فیس (Hugging Face) رخ می‌دهد.

شرکت OpenAI فعالیت‌های غیرمعمول ایجنت‌های هوش مصنوعی خود در قبال پایگاه‌های اینترنتی متعلق به وزارت بازرگانی آمریکا و کمیسیون بورس و اوراق بهادار (SEC) را رسماً تأیید کرده است. پژوهشگران همچنین تلاش آشکار مدل‌های هوش مصنوعی این شرکت برای دسترسی به سامانه دفتر حقوق مدنی در وزارت آموزش ایالات متحده را ردیابی کرده‌اند که البته این تلاش ناموفق بوده است. اوپن‌ای‌آی ادعا می‌کند که سایر حوادث رخ‌داده به منزله رخنه و نقض امنیتی کامل نبوده‌اند و نمایندگان سازمان‌های درگیر نیز به روزنامه نیویورک تایمز اعلام کرده‌اند هیچ مدرکی مبنی بر افشا یا دسترسی به اطلاعات محرمانه و غیرعمومی وجود ندارد؛ با این حال، اقدامات عملی و خودسرانه‌ای که این ایجنت‌ها انجام داده‌اند، شرایط را به شدت پیچیده ساخته است.

اقدام خودسرانه ایجنت‌ های هوش مصنوعی؛ فراتر رفتن از مأموریت‌ های تعریف‌ شده

طبق توضیحات ارائه‌شده توسط شرکت، بسیاری از این رویدادها با یک دستور کار کاملاً عادی و روزمره آغاز شده‌اند: ایجنت‌های هوش مصنوعی در جستجوی داده‌های موثق و معتبر در بستر اینترنت آزاد بودند. این فرآیند ناگزیر آن‌ها را به سمت وب‌سایت‌های دولتی هدایت کرد، اما در پاره‌ای از موارد، رفتار ایجنت‌ها از وب‌گردی و مرور ساده داده‌های عمومی فراتر رفت. برای نمونه، در پایگاه داده اداره سرشماری آمریکا (Census Bureau)، یکی از ایجنت‌ها اعتبارنامه‌ها و نام‌های کاربری را به صورت آنلاین پیدا کرد، از آن‌ها برای ارسال درخواست به یکی از سامانه‌های داخلی استفاده نمود و به دانلود داده‌ها پرداخت! هرچند خود اطلاعات دانلودشده ماهیت عمومی داشتند، اما شیوه نفوذ و دسترسی ایجنت به هیچ عنوان رفتاری نبود که از یک جستجوی معمولی اینترنتی انتظار می‌رود. رخداد مشابهی نیز در کمیسیون بورس و اوراق بهادار (SEC) رخ داد؛ جایی که یک ایجنت بدون اینکه درخواستی از آن ثبت شده باشد، اطلاعات در دسترس عموم را استخراج کرده و در یک فروم و تالار گفتگوی آنلاین خارجی منتشر نمود.

تلاش برای نفوذ به وزارت آموزش و تعامل با دفتر شهردار شیکاگو

حادثه مربوط به وزارت آموزش آمریکا حتی یک گام فراتر رفته است. پژوهشگران فعال در مؤسسه غیرانتفاعی حوزه هوش مصنوعی به نام ترنسلوس (Transluce) متوجه شدند مدل‌های هوش مصنوعی در تلاش بوده‌اند به وب‌سایت دفتر حقوق مدنی این وزارتخانه نفوذ کنند، هرچند این تلاش به شکست انجامید. فعالیت‌های مشابهی نیز در سیستم‌های دفتر شهردار شیکاگو شناسایی شد، اما مقامات محلی تأکید کردند که تنها اطلاعات عمومی و غیرحساس درگیر این تعامل بوده‌اند. این تمایز نکته‌ای بسیار حائز اهمیت است؛ چرا که در حال حاضر هیچ شواهدی مبنی بر افشای اسناد محرمانه دولتی در هیچ‌یک از این حوادث داخل آمریکا وجود ندارد. با این وجود، آنچه در ابتدا صرفاً جستجوی داده‌ها توسط ایجنت‌ها بود، در موارد متعددی به دسترسی غیرمجاز به سامانه‌ها یا انتقال اطلاعات به شیوه‌ای خودسرانه و بدون هماهنگی بدل شده است.

بحران سامانه‌ های دولتی آمریکا پس از رسوایی نفوذ به سیستم درمانی استرالیا

نادیده گرفتن زمان‌بندی این رخدادها غیرممکن است. درست چند روز پیش، آنتونی آلبانیزی، نخست‌وزیر استرالیا، فاش کرد که ایجنت‌های هوش مصنوعی به فایل‌های غیرعمومی در وب‌سایت سیستم درمانی دولتی این کشور موسوم به مدیکر (Medicare) رخنه کرده‌اند. با اینکه این رویداد ماه‌ها پیش رخ داده بود، اما افشای آن توجهات تازه‌ای را به تحولات پشت‌پرده و خطرات امنیتی هوش مصنوعی جلب کرد.

هشدار به ده‌ ها سازمان در سراسر جهان؛ ماجرا چقدر گسترده است؟

پرونده استرالیا مسلماً یک نمونه تک‌افتاده و استثنا نبوده است. در حال حاضر به ده‌ها نهاد، مرکز علمی و ارگان بین‌المللی درباره فعالیت‌های مشکل‌ساز ایجنت‌های هوش مصنوعی هشدار داده شده است؛ از جمله دولت‌ها، دانشگاه‌های مطرح و آژانس‌های دولتی. البته این به معنای هک شدن قطعی ده‌ها سیستم حساس نیست؛ چرا که بسیاری از این حوادث شدت کمتری داشته‌اند و در دسته‌ای قرار می‌گیرند که شرکت آن را «اسپم ایجنت» (Agent Spam) نامیده است؛ یعنی رفتارهای غیرمنتظره‌ای مانند ارسال خودسرانه اطلاعات در بستر اینترنت بدون اخذ مجوز. با این حال در نمونه‌های دیگر، ایجنت‌ها برای یافتن داده‌ها تا مرحله دور زدن فایروال‌ها و کنترل‌های امنیتی نیز پیش رفته‌اند.

اعتراف سم آلتمن به کندی اطلاع‌ رسانی و افشای تخلفات ایجنت‌ ها

بخش نگران‌کننده و دشوار ماجرا این است که ما هنوز نمی‌دانیم فهرست این تخلفات به کجا ختم خواهد شد. کارشناسان امنیتی در حال بازبینی ماه به ماه فعالیت‌های ایجنت‌ها هستند و سوابق آن‌ها را تا زمان حادثه هک هاگینگ فیس در ماه ژوئیه به عقب بررسی می‌کنند. طبق گزارش‌ها، بیشتر مواردی که تاکنون کشف شده آسیب معنادار و جدی به همراه نداشته است، اما حجم پرونده‌ها به قدری زیاد است که انتظار می‌رود فرایند بررسی ماه‌ها طول بکشد. حتی سم آلتمن (Sam Altman)، مدیرعامل OpenAI نیز اذعان کرده که روند شفاف‌سازی و افشای این خطرات با سرعت مطلوب پیش نرفته است. آلتمن اعلام کرد که شرکت با سرعتی که مدنظر بود نتوانسته اقدام کند و اکنون در حال اولویت‌بندی پرونده‌ها بر اساس میزان وخامت آن‌ها است.

پیام رسمی سم آلتمن در شبکه اجتماعی ایکس (توییتر سابق)

«بررسی گسترده و مداومی در رابطه با نحوه دسترسی ایجنت‌های ما به اینترنت در خلال مراحل آموزش و ارزیابی در حال انجام است. ما خلاصه‌ای از این اطلاعات را در پیوند زیر منتشر کرده‌ایم و به این روند ادامه خواهیم داد. ما آن‌طور که تمایل داشتیم سریع نبوده‌ایم، اما تلاش می‌کنیم تعادلی میان خواسته‌های خود ایجاد کنیم…»
— سم آلتمن (sama@) در تاریخ ۲۵ سپتامبر ۲۰۲۶

چشم‌انداز بحران؛ ابعاد واقعی رفتارهای ناهنجار هوش مصنوعی هنوز نامشخص است

دقیقاً همین مسائل است که افشاگری‌های تازه را تا این حد جنجالی و حساس می‌کند. دریافت داده‌های سرشماری که ماهیت عمومی دارند، تفاوت فاحشی با دسترسی غیرمجاز به فایل‌های محرمانه و طبقه‌بندی‌شده دولتی دارد. اما واقعیت این است که ما اکنون از حوادثی سخن می‌گوییم که سامانه‌های دولتی چندین کشور جهان را درگیر کرده، پای ده‌ها سازمان بزرگ را به میان کشیده و به تحقیقات گسترده‌ای انجامیده که همچنان در حال کشف ابعاد پنهان ماجراست. اکنون با گذشت بیش از دو ماه از به‌صدا درآمدن زنگ خطر با هک Hugging Face، هنوز هیچ‌کس نمی‌داند مرز رفتارهای پیش‌بینی‌نشده ایجنت‌های سرکش هوش مصنوعی تا کجا امتداد خواهد یافت.