نفوذ باورنکردنی هوش مصنوعی جمینای گوگل به شرکت‌ های واقعی؛ وقتی هوش مصنوعی از محیط آزمایشی فرار می‌کند!

به گزارش بخش اخبار فناوری زوم تک به نقل از (Digital Trends)، به نظر می‌رسد غول فناوری مانتین ویو نیز نمی‌خواهد در نمایش قدرت «هوش مصنوعی به طرز خطرناکی قدرتمند» خود از سایر رقبا عقب بماند. یک گزارش اختصاصی و جنجالی از سوی وال استریت ژورنال (The Wall Street Journal) به تازگی پرده از سه حادثه جداگانه برداشته است؛ حوادثی که در جریان آن‌ها پس از فراهم شدن دسترسی به شبکه اینترنت، هوش مصنوعی جمینای گوگل (Google Gemini) در قالب یک تمرین امنیتی، به سامانه‌های داخلی سه شرکت تجاری واقعی نفوذ کرده است. البته به‌جز چند استثنای محدود، تقریباً تمام وقایع پیشین نیز بعداً به عنوان آزمایش سنجش توانایی‌های فنی معرفی شدند.

واقعاً چه اتفاقی افتاد؟ جزئیات نفوذ هوش مصنوعی Gemini به داده‌ های محرمانه

بر اساس گزارش منتشرشده از سوی روزنامه وال استریت ژورنال: «در یکی از این سناریوها، مدل هوش مصنوعی با آزمودن مکرر رمزهای عبور (Brute Force) موفق شد دسترسی به یک سیستم محافظت‌شده را به دست آورد. در دو سناریوی دیگر، این مدل اعتبارنامه‌ها و اطلاعات هویتی را در یک مخزن عمومی (Public Repository) پیدا کرد که امکان نفوذ به سامانه‌های تحت حفاظت را برای آن میسر ساخت. طبق اعلام رسمی گوگل، مدل در هر سه مورد، بلافاصله پس از پی بردن به اینکه به سرورهای یک شرکت واقعی دسترسی پیدا کرده، عملیات نفوذ را متوقف کرده است.»

نقش تیم امنیتی Irregular و توجیه عجیب گوگل

این ارزیابی امنیتی توسط مؤسسه Irregular انجام شده است؛ مجموعه‌ای که پیش از این نیز سابقه اجرای تمرین‌های تیم قرمز (Red-Teaming) را برای مدل‌های هوش مصنوعی OpenAI، آنتروپیک و متا در کارنامه دارد. نکته جالب‌توجه اینجاست که کمپانی گوگل ادعا می‌کند نیازی به افشای عمومی این حوادث ندیده است؛ چرا که این فرایند بیشتر شبیه به یک تمرین امنیت سایبری در قالب برنامه‌های پاداش کشف باگ (Bug Bounty) بوده و مدل هوش مصنوعی جمینای درست در لحظه‌ای که متوجه نفوذ به سیستم‌های شرکتی دیگر شده، بلافاصله متوقف گردیده است. سخنگوی گوگل در بیانیه‌ای در این خصوص اظهار داشت: «در این سناریو، مدل کاملاً مسئولانه و مناسب عمل کرده است.»

ابعاد نگران‌کننده ماجرا؛ هک شرکتی واقعی به جای شرکتی فرضی درون سندباکس!

اما نقطه عطف و بخش دلهره‌آور ماجرا از اینجا آغاز می‌شود: اصولاً قرار نبود مدل هوش مصنوعی جمینای به اینترنت دسترسی داشته باشد، اما تیم امنیتی Irregular مدعی شده است که «دسترسی به اینترنت به شکلی کاملاً ناخواسته و تصادفی برای مدل فراهم شده بود». فراتر از آن، مأموریت تعیین‌شده برای جمینای، کشف آسیب‌پذیری‌ها و رخنه‌های امنیتی در سیستم‌های یک شرکت ساختگی و فرضی درون یک محیط آزمایشی کاملاً ایزوله و قرنطینه‌شده (Sandbox) بود؛ اما این هوش مصنوعی موفق شد یک شرکت واقعی در دنیای واقعی با همان نام مشابه را پیدا کرده و به آن نفوذ کند!

بحران تراز نبودن هوش مصنوعی (AI Misalignment)؛ عبور مدل‌ ها از خطوط قرمز

به‌طور معمول در ادبیات فناوری، هنگامی که مدل‌های یادگیری ماشینی دست به اقداماتی فراتر از چارچوب آموزش‌داده‌شده یا درخواست‌های ارائه‌شده می‌زنند، این چالش تحت عنوان عدم تراز یا ناهماهنگی مدل (Model Misalignment) شناخته می‌شود. در حوزه پژوهش‌های پیشرفته AI، موضوع عدم هم‌راستایی در حال حاضر داغ‌ترین و جنجالی‌ترین مبحث مورد مناقشه دانشمندان است. با این وجود، گوگل پافشاری می‌کند که رفتار رخ‌داده از سوی مدل جمینای مصداقی از ناهماهنگی مدل نبوده است. تاکنون هیچ‌یک از طرفین نام شرکت‌های قربانی این نفوذ را فاش نکرده‌اند، اما گوگل تأکید دارد که به هر سه شرکت درباره این رخداد سایبری اطلاع‌رسانی دقیق انجام شده است.

منبع خبر: (Digital Trends)