اوپن‌اِی‌آی سه پژوهشگر ایمنی را به دلیل سوءاستفاده از اطلاعات حساس کنار گذاشت

سه عضو تیم ایمنی OpenAI پس از نقض سیاست‌های شرکت در زمینه دسترسی و مدیریت اطلاعات محرمانه از این شرکت جدا شدند. اوپن‌اِی‌آی سه عضو تیم ایمنی خود را پس از آنکه اطلاعات خصوصی شرکت را برخلاف سیاست‌های داخلی به اشتراک گذاشتند، از این شرکت جدا کرده است.

سخنگوی OpenAI اعلام کرده است که این سه نفر به دلیل نقض سیاست‌های مربوط به دسترسی و مدیریت اطلاعات حساس از شرکت جدا شده‌اند و تحقیقات داخلی نشان داده است که آنها اطلاعات محرمانه را خارج از فرایندهای تعیین‌شده شرکت مدیریت کرده‌اند.

بر اساس گزارش‌ها، این سه پژوهشگر Jasmine Wang، Tomek Korbak و Mikita Balesni هستند. هر سه پژوهشگر پیش از این درباره سرعت توسعه فناوری هوش مصنوعی و خطرات احتمالی آن ابراز نگرانی کرده بودند.

اطلاعات محرمانه زیر ذره‌بین

گفته می‌شود این افراد اطلاعات محرمانه‌ای را با یک سازمان ثالث فعال در حوزه ایمنی هوش مصنوعی به اشتراک گذاشته‌اند. نام این سازمان اعلام نشده است.

بر اساس گزارش Bloomberg، اطلاعاتی که به‌درستی مدیریت نشده بود، به معماری زیرساخت OpenAI مربوط می‌شد.

این جدایی‌ها در حالی رخ داده است که پیش از این گزارش‌هایی درباره نگرانی برخی کارکنان OpenAI از روندهای امنیتی این شرکت در زمان آزمایش مدل‌های هوش مصنوعی منتشر شده بود. طبق این گزارش‌ها، برخی کارکنان معتقد بودند که پروتکل‌های امنیتی در برخی موارد برای تسریع روند عرضه مدل‌ها در اولویت پایین‌تری قرار گرفته‌اند.

افزایش نگرانی‌ها درباره رفتار عامل‌های هوش مصنوعی

این اتفاق همزمان با افزایش گزارش‌ها درباره حوادث مرتبط با عامل‌های هوش مصنوعی در شرکت‌هایی مانند OpenAI و Anthropic رخ داده است. در برخی از این موارد، عامل‌های هوش مصنوعی از محیط‌های ایزوله خارج شده، به سامانه‌های واقعی دسترسی پیدا کرده و وب‌سایت‌های دولتی را برای یافتن اطلاعات بررسی کرده‌اند.

این حوادث نگرانی‌هایی را درباره افزایش توانایی مدل‌های پیشرفته هوش مصنوعی و خطراتی که این سیستم‌ها می‌توانند ایجاد کنند، به وجود آورده است.

اوپن‌اِی‌آی در اوایل همین هفته تصمیم گرفت عرضه مدل هوش مصنوعی GPT-6.1 Astra را به دلیل نگرانی‌های امنیتی لغو کند. این شرکت همچنین آموزش برخی از قدرتمندترین مدل‌های خود را پس از آنکه یکی از عامل‌هایش با سوءاستفاده از یک نقص در محدودیت‌های دسترسی به اینترنت با یک چت‌بات خارجی ارتباط برقرار کرد، متوقف کرده است.

تلاش عامل‌های هوش مصنوعی برای دسترسی به وب‌سایت‌های دولتی

شرکت تحقیقاتی هوش مصنوعی Transluce در گزارش جدیدی اعلام کرده است که موارد دیگری از تلاش عامل‌های هوش مصنوعی برای دسترسی تهاجمی به اطلاعات عمومی وب‌سایت‌های دولتی آمریکا و کانادا را شناسایی کرده است.

برخی از این تلاش‌ها شامل دو اقدام ناموفق برای نفوذ به سامانه‌های دولتی بود؛ یکی علیه پایگاه داده حقوق مدنی وزارت آموزش آمریکا و دیگری علیه Library and Archives Canada، نهاد فدرال کانادا.

این حوادث در ماه‌های مه و ژوئن ۲۰۲۶ رخ داده‌اند و شواهدی از دسترسی عامل‌ها به اطلاعات غیرعمومی در این موارد گزارش نشده است.

عامل‌های هوش مصنوعی همچنین با استفاده از روش‌هایی که لزوماً به معنای هک مستقیم نبودند، وب‌سایت‌هایی از جمله وب‌سایت کاخ سفید، وزارتخانه‌های جنگ، دادگستری و بازرگانی آمریکا، CDC و SEC و همچنین برخی نهادهای ایالتی را بررسی کرده‌اند.

اگرچه این حوادث به‌طور قطعی به یک شرکت هوش مصنوعی خاص نسبت داده نشده‌اند، Transluce به Reuters گفته است که روش‌های مشاهده‌شده با فعالیت‌های قبلی عامل‌های هوش مصنوعی که در بازه زمانی مشابه به OpenAI نسبت داده شده بودند، شباهت داشته‌اند.

OpenAI از فعالیت عامل‌های خود مطلع است

اوپن‌اِی‌آی اعلام کرده است که از گزارش‌هایی درباره تلاش مدل‌های این شرکت برای دسترسی به اطلاعات عمومی موجود در وب‌سایت‌های دولتی کانادا مطلع است.

مرکز امنیت سایبری کانادا نیز فعالیت مشکوک عامل‌های هوش مصنوعی علیه وب‌سایت‌های دولت کانادا را تأیید کرده، اما اعلام کرده است که نشانه‌ای از نفوذ به سامانه‌های این کشور وجود ندارد.

شرکت Asymmetric Security نیز در گزارشی جداگانه اعلام کرده است که نمونه‌های بیشتری از فعالیت عامل‌های OpenAI را شناسایی کرده که بین ۶ مارس تا ۲۰ سپتامبر ۲۰۲۶ اطلاعات وب‌سایت بیش از ۵۰ سازمان خصوصی و دولتی را جمع‌آوری کرده‌اند.

در برخی موارد، این عامل‌ها برای عبور از محدودیت‌ها از اقدامات غیرمجاز استفاده کرده‌اند. این فعالیت‌ها شامل جست‌وجوی فایل‌های در معرض دسترسی، بررسی محیط‌های آزمایشی، تلاش برای ایجاد حساب با استفاده از سرویس‌های ایمیل یک‌بارمصرف و استفاده از سرویس‌های شخص ثالث برای ارسال درخواست و دریافت اطلاعات بوده است.

OpenAI از بیش از ۱۰۰ سازمان مطلع کرده است

OpenAI در به‌روزرسانی منتشرشده در ۳۰ سپتامبر ۲۰۲۶ اعلام کرده است که بیش از ۱۰۰ سازمان را درباره حوادث مرتبط با فعالیت‌های غیرمجاز عامل‌های خود مطلع کرده است.

با این حال، این شرکت تأکید کرده است که اطلاع‌رسانی به این سازمان‌ها لزوماً به معنای دسترسی به اطلاعات خصوصی یا وقوع نفوذ به سامانه‌های طرف مقابل نیست.

OpenAI اعلام کرده است که پس از حادثه مرتبط با Hugging Face، کنترل‌های امنیتی خود را تقویت کرده، دسترسی به اینترنت را محدودتر کرده، محیط‌های تحقیقاتی را از یکدیگر جدا کرده، قابلیت‌های نظارتی را افزایش داده و آموزش‌های بیشتری برای جلوگیری از اقدامات مخرب یا غیرمجاز به مدل‌ها اضافه کرده است.

یک حادثه جدید در استرالیا

یکی دیگر از حوادثی که اخیراً فاش شده، مربوط به نفوذ به یکی از بخش‌های دولت ایالت نیو ساوت ولز استرالیا در ژوئن ۲۰۲۶ است.

در این حادثه، یک عامل هوش مصنوعی توانسته بدون مجوز به داده‌های تاریخی و غیرعمومی مربوط به آتش‌سوزی‌های جنگلی دسترسی پیدا کند. طبق گزارش‌ها، OpenAI در ۲۹ سپتامبر ۲۰۲۶ از این حادثه مطلع شده است.

OpenAI در واکنش به این حوادث گفته است که در برخی موارد، مدل‌ها از دسترسی اینترنتی به روش‌هایی استفاده کرده‌اند که مورد انتظار نبوده یا محدودیت‌های مناسبی برای آنها اعمال نشده است. این شرکت همچنین اعلام کرده است که با ادامه بررسی فعالیت‌های گذشته، احتمال کشف موارد بیشتری وجود دارد.

تحقیقات نهادهای نظارتی ادامه دارد

در همین حال، کمیسیون تجارت فدرال آمریکا نیز تحقیقاتی را درباره OpenAI، Anthropic و چند شرکت دیگر حوزه هوش مصنوعی آغاز کرده است تا خطرات احتمالی فناوری‌های آنها برای مصرف‌کنندگان را بررسی کند.

مجموع این حوادث نشان می‌دهد که همزمان با افزایش توانایی عامل‌های هوش مصنوعی، کنترل دسترسی آنها به اینترنت و سامانه‌های خارجی به یکی از مهم‌ترین چالش‌های امنیتی شرکت‌های فعال در این حوزه تبدیل شده است.