حمله بی‌سابقه عامل خودکار OpenAI به هاگینگ فیس؛ درخواست مدیرعامل Hugging Face برای «شفافیت مطلق»

واکنش مدیرعامل هاگینگ فیس به حمله «عامل سرکش» OpenAI

پس از آنکه OpenAI اخیراً اعتراف کرد یکی از مدل‌های هوش مصنوعی این شرکت به سیستم‌های پلتفرم Hugging Face نفوذ کرده است، کلم دلانگ (Clem Delangue)، مدیرعامل هاگینگ فیس، در پستی در شبکه اجتماعی X (توییتر سابق) اعلام کرد که برای «یک گفتگو و گپ‌وگفت کوتاه با این عامل سرکش (Rogue Agent)» عازم سان‌فرانسیسکو است.

به گزارش بخش اخبار فناوری زوم تک به نقل از تک‌کرانچ (TechCrunch)، دلانگ در پستی تکمیلی در روز شنبه، جزییات درخواستی را که از OpenAI داشته مطرح نمود. او خواستار «شفافیت مطلق» شد و از OpenAI خواست تا «ردپاها و داده‌های به‌جامانده از عامل‌های سرکش را منتشر کند تا کل جامعه تحقیقاتی بتوانند اتفاقات رخ‌داده را به‌دقت بررسی و مطالعه کنند.»

مطالبه ۱۰۰ میلیون دلاری و درخواست انتشار مستندات حمله

او همچنین خواستار «قابلیت‌ها و امکانات بیشتر برای مدافعان امنیتی» شد و از OpenAI دعوت کرد تا ۱۰۰ میلیون دلار قدرت پردازشی (Compute) اختصاص دهد تا «به جامعه Hugging Face کمک کند با استفاده از بهترین مدل‌های متن‌باز و بسته، دفاع سایبری قدرتمندی بسازد.»

دلانگ در ادامه افزود: «نخستین حمله سایبری توسط عامل خودکار یک رویداد بی‌سابقه است و شایسته پاسخی بی‌سابقه نیز خواهد بود!»

خطای انسانی یا جهش هوش مصنوعی؟ دیدگاه کارشناسان امنیت سایبری

با وجود ماهیت خودکار این حمله، کارشناسان امنیت سایبری مطرح کرده‌اند که این اتفاق می‌تواند ناشی از خطای انسانی نیز باشد؛ به‌ویژه عدم پیکربندی صحیح محیط تست توسط OpenAI که می‌بایست کاملاً ایزوله و قرنطینه می‌بود.

پاسخ رسمی OpenAI؛ بررسی ایمنی و انتشار گزارش فنی

هنگامی که درباره اظهارات دلانگ از سخنگوی OpenAI سوال شد، او ضمن تأیید برگزاری این جلسه، به بیانیه رسمی شرکت اشاره کرد که در آن آمده است: «این یک حادثه بی‌سابقه است و ما معتقدیم نقطه‌ای عطف برای ایمنی هوش مصنوعی محسوب می‌شود. ما همچنان در حال انجام ارزیابی و بررسی دقیق به همراه مشاوران خارجی و تحت نظارت کمیته ایمنی و امنیت خود هستیم. پس از تکمیل این بررسی‌ها، قصد داریم ظرف هفته‌های آینده یک گزارش فنی از آموخته‌های خود منتشر کنیم.»