زنگ خطر در دنیای هوش مصنوعی؛ گوگل از سوءاستفاده هکرهای دولتی از Gemini پرده برداشت

گوگل در گزارش جدید و تکان‌ دهنده‌ای اعلام کرد که گروه‌ های هکری تحت حمایت دولت‌ ها، به‌ ویژه کره‌ شمالی، از مدل هوش مصنوعی مولد Gemini برای شناسایی اهداف و پشتیبانی از حملات سایبری خود استفاده می‌کنند. این گزارش نشان می‌ دهد که چگونه ابزارهای هوش مصنوعی به سلاحی جدید در چرخه حملات سایبری تبدیل شده‌اند.

به گزارش بخش اخبار فناوری زوم تک به نقل از Ravie Lakshmanan، گروه هکری موسوم به UNC2970 که وابسته به کره‌ شمالی است، از مدل هوش مصنوعی Gemini برای جمع‌آوری اطلاعات منابع باز (OSINT) و پروفایل‌ سازی اهداف ارزشمند استفاده کرده است. این فعالیت‌ ها شامل جستجو برای یافتن اطلاعات حیاتی در مورد شرکت‌های بزرگ امنیت سایبری و دفاعی، و همچنین نقشه‌ برداری از مشاغل فنی و اطلاعات حقوق و دستمزد بوده است.

تغییر تاکتیک هکرها؛ هوش مصنوعی در خدمت جاسوسی سایبری

تیم هوش تهدیدات گوگل (GTIG) معتقد است که مرز بین تحقیقات حرفه‌ای روزمره و شناسایی مخرب در حال محو شدن است. استفاده از هوش مصنوعی Gemini به هکرهای دولتی اجازه می‌دهد تا هویت‌های فیشینگ بسیار دقیق و شخصی‌سازی شده‌ای ایجاد کنند و اهداف آسیب‌پذیر را برای نفوذ اولیه شناسایی نمایند.

گروه UNC2970 که با نام‌های دیگری همچون Lazarus Group نیز شناخته می‌شود، پیش از این در عملیاتی موسوم به “Operation Dream Job” با جعل هویت استخدام‌کنندگان شرکت‌های بزرگ، بخش‌های هوافضا و انرژی را هدف قرار داده بود. اکنون هوش مصنوعی فرآیند تولید محتوای فریبنده را برای آن‌ها بسیار سریع‌تر کرده است.

فهرست گروه‌ های هکری که از Gemini سوءاستفاده کرده‌اند

تنها کره‌ شمالی نیست که از پتانسیل‌های هوش مصنوعی گوگل بهره می‌برد. گزارش گوگل به گروه‌های زیر نیز اشاره کرده است:

• Mustang Panda (چین): جمع‌آوری اطلاعات عملیاتی و ساختاری سازمان‌های جدایی‌طلب در کشورهای مختلف.
• APT31 (چین): اتوماسیون تحلیل آسیب‌پذیری‌ها و تولید برنامه‌های تست نفوذ با جعل هویت محقق امنیتی.
• APT41 (چین): رفع اشکال (Debug) کدهای اکسپلویت و تحلیل ابزارهای متن‌باز.
• APT42 (ایران): تسهیل مهندسی اجتماعی و توسعه اسکریپت‌های استخراج داده از Google Maps با زبان‌های Rust و Python.

تکنیک‌ های فریب هوش مصنوعی؛ از جعل هویت تا بدافزار HONESTCUE

هکرها اغلب با معرفی خود به عنوان “محقق امنیتی” یا شرکت‌کننده در مسابقات “فتح پرچم” (CTF)، سعی می‌کنند سیستم‌های حفاظتی Gemini را دور بزنند. گوگل همچنین بدافزار جدیدی به نام HONESTCUE را شناسایی کرده است که از طریق API جمینای، کدهای منبع C# را دریافت و مستقیماً در حافظه سیستم (Fileless) اجرا می‌کند تا هیچ ردی روی دیسک باقی نماند.

حملات استخراج مدل؛ تلاش برای کپی‌ برداری از مغز Gemini

علاوه بر سوءاستفاده از چت‌بات، گوگل حملاتی را شناسایی کرده که هدف آن‌ها “استخراج مدل” است. در یک مورد، بیش از ۱۰۰ هزار پرسش از Gemini پرسیده شد تا با تحلیل پاسخ‌ها، یک مدل مشابه که رفتار و قدرت استدلال آن را تقلید می‌کند، ساخته شود. محققان هشدار می‌دهند که حتی اگر وزن‌های مدل مخفی بماند، رفتار مدل از طریق API قابل کپی‌برداری است.

دفاع هوشمند؛ مقابله با سرعت ماشین

استیو میلر، مدیر بخش تهدیدات هوش مصنوعی گوگل، تأکید کرد که این شرکت به طور مداوم در حال بهبود سیستم‌های ایمنی و طبقه‌بندی‌کننده‌های شناسایی سوءاستفاده است. با این حال، او هشدار داد که مدافعان سایبری نیز باید به اندازه مهاجمان در هوش مصنوعی سرمایه‌گذاری کنند تا بتوانند با “سرعت ماشین” در برابر حملات واکنش نشان دهند.

در نهایت، گوگل اعلام کرد که ابتکار دفاع سایبری هوش مصنوعی خود را که در سال ۲۰۲۴ راه‌اندازی شده بود، با هدف معکوس کردن برتری مهاجمان تقویت خواهد کرد تا ترازوی امنیت به نفع مدافعان سنگینی کند.