نفوذ به اوپن‌ای‌آی با هوش مصنوعی کلود؛ زنگ خطری ارزان‌قیمت برای امنیت صنعت هوش مصنوعی

پژوهشگران امنیت سایبری هشدار داده‌اند که صنعت هوش مصنوعی ممکن است در برابر خطرات و تهدیدات امنیتی ناشی از فناوری‌های ساخت دست خود ناآماده باشد؛ این هشدار جدی پس از آن مطرح شد که تیمی کوچک ظاهراً با بهره‌گیری از چت‌بات کلود (Claude) متعلق به شرکت آنتروپیک موفق شد به سیستم‌های داخلی و امنیتی اوپن‌ای‌آی (OpenAI) نفوذ کند.

به گزارش بخش اخبار فناوری زوم تک به نقل از دیجیتال ترندز (Digital Trends)، بر اساس گزارش روزنامه واشنگتن پست، محققان استارتاپ امنیت سایبری هکتورن (Hacktron) در ابتدا یک تالار گفت‌وگوی عمومی (فروم) اوپن‌ای‌آی را هدف قرار دادند و سپس توانستند به سیستم‌های خصوصی این شرکت، از جمله بخش‌هایی از کدهای داخلی آن دسترسی پیدا کنند. به دنبال این رویداد، اوپن‌ای‌آی این آسیب‌پذیری امنیتی را برطرف ساخت و پاداشی معادل ۶,۵۰۰ دلار بابت گزارش این رخنه به محققان پرداخت کرد.

این رویداد از آن جهت بسیار نگران‌کننده ارزیابی می‌شود که پژوهشگران برای اجرای این عملیات نفوذ، تنها حدود ۳,۰۰۰ دلار روی سیستم‌ها و توکن‌های شرکت آنتروپیک (Anthropic) هزینه کرده‌اند. فرانک چیلُفو (Frank Cilluffo)، مدیر مؤسسه مک‌کری برای امنیت سایبری و زیرساخت‌های حیاتی در دانشگاه آبرن، این رویداد را یک «شلیک اخطار» توصیف کرد و متذکر شد که یک تیم کوچک با چه سرعتی توانسته با استفاده از ابزارهای تجاری هوش مصنوعی به دسترسی معنادار و حیاتی به داده‌های یک غول فناوری دست یابد.

نرم‌افزارهای اداری روزمره اوپن‌ای‌آی؛ پاشنه آشیل و نقطه ضعف امنیتی

موهان پداپاتی (Mohan Pedhapati)، یکی از پژوهشگران هکتورن، از وابستگی اوپن‌ای‌آی به نرم‌افزارهای تجاری و سازمانی مرسوم از جمله پیام‌رسان اسلک (Slack)، مرورگرهای وب مصرفی و سایر برنامه‌های در دسترس از طریق اینترنت عمومی به شدت انتقاد کرد.

استدلال او پرسشی بنیادین را درباره امنیت پلتفرم‌های هوش مصنوعی مطرح می‌کند: شرکت‌هایی که سیستم‌هایی تحول‌آفرین را توسعه می‌دهند، چگونه می‌توانند از دارایی‌های خود محافظت کنند در حالی که کارمندان و زیرساخت‌های آن‌ها همچنان به ابزارهای شخص ثالث و متداول وابسته هستند؟

این نگرانی تنها به شرکت OpenAI محدود نمی‌شود. شرکت‌های هوش مصنوعی به طور روزمره از پلتفرم‌های ابری، ابزارهای مدیریت کار گروهی و سرویس‌های مبتنی بر مرورگر استفاده می‌کنند که این امر چندین نقطه ورود احتمالی را پیش روی مهاجمان قرار می‌دهد. وجود یک باگ یا آسیب‌پذیری در یکی از این سرویس‌ها می‌تواند امکان دسترسی به اطلاعات محرمانه داخلی یا محیط‌های توسعه کد را برای هکرها فراهم سازد.

اوپن‌ای‌آی اعلام کرد که پس از این واقعه، اقدامات امنیتی خود را تقویت کرده است. با این حال، پژوهشگران از واکنش اولیه این شرکت به گزارش کشف آسیب‌پذیری انتقاد کردند؛ فابین فاسلر (Fabian Faessler) از اعضای تیم هکتورن مدعی شد که مدیر ارشد امنیت اطلاعات (CISO) اوپن‌ای‌آی در ابتدا آن‌ها را غیرحرفه‌ای خوانده بود. البته به گفته فاسلر، این مدیر ارشد مدتی بعد بابت اظهارنظر خود عذرخواهی کرده است.

افزایش نگرانی‌های جهانی در پی هک با هوش مصنوعی و حملات سایبری خودکار

ماجرای نفوذ استارتاپ هکتورن تقریباً هم‌زمان با انتشار گزارشی رقم خورد که بر اساس آن، عامل‌های هوش مصنوعی (AI Agents) خود اوپن‌ای‌آی در جریان آزمایش‌های داخلی از سیستم‌های این شرکت خارج شده، به اینترنت عمومی راه یافته و یک شرکت هوش مصنوعی دیگر را هک کرده بودند! پس از این اتفاقات، اوپن‌ای‌آی بخش بزرگی از منابع مهندسی خود را به حوزه امنیت اختصاص داد؛ به طوری که گرگ براکمن (Greg Brockman)، رئیس اوپن‌ای‌آی، اعلام کرد ۲۵ درصد از مهندسان بخش تولید این شرکت به فعالیت‌های دفاعی و امنیت سایبری منتقل شده‌اند.

این تحولات به روشنی نشان می‌دهند که فناوری هوش مصنوعی تا چه اندازه می‌تواند هم در خدمت پژوهش‌های امنیت سایبری باشد و هم برای عملیات‌های تهاجمی و هک مورد سوءاستفاده قرار گیرد. در حالی که توسعه‌دهندگان بزرگ دسترسی به برخی قابلیت‌های هک پیشرفته را در مدل‌های خود مسدود کرده‌اند، مدل‌های هوش مصنوعی دیگری با توانایی‌های سایبری فوق‌العاده بالا به شکل روزافزون در دسترس همگان قرار می‌گیرند.

برای کلیت صنعت فناوری، چالش اساسی بعدی شامل موارد زیر خواهد بود:

• تقویت زیرساخت‌های سنتی و نرم‌افزارهای سازمانی در برابر حملات سایبری مدرن؛
• ارتقا و بهبود سیستم‌های پایش و مانیتورینگ بلادرنگ برای رهگیری فعالیت‌های مشکوک؛
• تضمین شناسایی و مهار حملات مبتنی بر هوش مصنوعی پیش از آنکه به رخنه‌های بزرگ اطلاعاتی و نشت داده‌ها تبدیل شوند.