توقف غیرمنتظره توسعه مدل Astra توسط OpenAI به دلیل خطرات امنیت سایبری

چرا توسعه مدل جدید Astra متوقف شد؟

شرکت OpenAI روز جمعه اعلام کرد که پس از بررسی‌های داخلی و مشخص شدن پیشرفت‌های چشمگیر مدل جدید خود با نام Astra در زمینه کدنویسی خودکار (Agentic Coding) و امنیت سایبری، فعالیت بر روی برخی بخش‌های این مدل را به دلیل نگرانی از توانایی‌های بالای آن به حالت تعلیق درآورده است.

رسیدن مدل Astra به آستانه خطرناک امنیت سایبری

به گزارش بخش اخبار فناوری زوم تک به نقل از تک‌کرانچ، OpenAI در پست وبلاگی جدید خود اعلام کرد که این مدل که هنوز در مرحله توسعه قرار دارد، به «آستانه حیاتی امنیت سایبری» رسیده است. این بدان معناست که مدل Astra می‌تواند به طور مستقل حملات سایبری علیه سیستم‌های واقعی و دارای ایمنی بالا را شناسایی و اجرا کند. طبق «چارچوب آمادگی» (Preparedness Framework) این شرکت که در سال ۲۰۲۳ تدوین شده بود، این شرایط موجب فعال‌سازی پروتکل‌های امنیتی و حفاظتی اضافی شد.

ارزیابی‌ های اولیه و توانمندی‌ های حیاتی هوش مصنوعی

OpenAI در این باره نوشت: «در حالی که ما به بنچمارک و ارزیابی این مدل ادامه می‌دهیم، ارزیابی‌های اولیه ما نشان‌دهنده عملکردی قدرتمند است؛ به طوری که در حال حاضر نمی‌توانیم احتمال دست‌یابی به سطح توانمندی حیاتی را رد کنیم. مدل Astra یک مدل آینده‌نگرانه و در حال توسعه است و در حادثه نفوذ به هاگینگ فیس (Hugging Face) نقشی نداشته است.»

این افشاگری نشان‌دهنده لحظه‌ای غیرمنتظره در صنعت پرفرازونشاط و نوپای آزمایشگاه‌های هوش مصنوعی پیشرفته است. اگرچه شرکت‌ها در صنایع مختلف معمولاً عرضه محصولات خود را به دلیل خطرات احتمالی از جمله مسائل ایمنی و امنیت سایبری به تأخیر می‌اندازند، اما کمتر پیش می‌آید که چنین تصمیماتی را درباره محصولی که هنوز در دست توسعه است، به صورت عمومی اعلام کنند.

سابقه خروج کنترل مدل‌ های هوش مصنوعی از دست توسعه‌ دهندگان

در این مورد خاص، OpenAI پیش از این نیز زیر ذره‌بین قرار گرفته بود؛ چرا که یکی دیگر از مدل‌های منتشرنشده آن در طول تست‌های داخلی موفق شده بود به سیستم‌های هاگینگ فیس نفوذ کند؛ حادثه‌ای که به عنوان اولین مورد قابل اثبات از دست رفتن کنترل مدل هوش مصنوعی ثبت شد. از آن زمان تا کنون، اوپن‌ای‌آی و سایر آزمایشگاه‌های هوش مصنوعی مانند انتروپیک (Anthropic) موارد دیگری را افشا کرده‌اند که در آن‌ها مدل‌های هوش مصنوعی از محیط‌های آزمایشی (سندباکس) خارج شده و در طول تست‌های امنیت سایبری تهدیداتی ایجاد کرده‌اند.

این سلسله اتفاقات که گویی هر روز گزارش جدیدی از آن‌ها منتشر می‌شود، واکنش‌های متفاوتی را از سوی کارشناسان امنیت سایبری، قانون‌گذاران و خود آزمایشگاه‌های هوش مصنوعی برانگیخته است. برخی ابراز نگرانی کرده و خواستار نظارت‌های سخت‌گیرانه‌تر شده‌اند، اما در برخی محافل نیز داشتن مدلی با چنین قدرت و توانمندی بالایی، یک پیشرفت چشمگیر و شگفت‌انگیز برای یک آزمایشگاه محسوب می‌شود.

شفاف‌ سازی و اقدامات جدید OpenAI برای ایمنی هوش مصنوعی

شرکت OpenAI اعلام کرده که این اطلاعات را به این دلیل منتشر می‌کند که معتقد است «شفافیت با عموم مردم و جوامع ایمنی و امنیت سایبری درباره این تغییر پتانسیل در توانمندی‌ها از اهمیت بالایی برخوردار است.»

این آزمایشگاه هوش مصنوعی همچنین افزود که در حال اتخاذ اقدامات جدیدی است؛ از جمله اعمال کنترل‌های امنیتی سخت‌گیرانه‌تر و متوقف کردن فعالیت‌های داخلی مرتبط با مدل Astra که با چارچوب‌های جدید ایمنی مطابقت ندارند. OpenAI تأکید کرد که در حال همکاری با نهادهای دولتی مربوطه و «سازمان‌های منتخب ایمنی هوش مصنوعی» برای تست و ارزیابی دقیق‌تر توانمندی‌های این مدل است.

منبع خبر: تک‌کرانچ (TechCrunch)