چرخش ناگهانی مدیرعامل OpenAI؛ چرا سام آلتمن خواهان کاهش سرعت توسعه هوش مصنوعی است؟

سام آلتمن، مدیرعامل OpenAI، می‌گوید ممکن است زمان آن رسیده باشد که سرعت توسعه هوش مصنوعی تنظیم و کنترل شود تا جهان فرصت کافی برای آماده‌سازی در برابر آن را داشته باشد.

به گزارش بخش اخبار فناوری زوم تک به نقل از تک‌کرانچ، آلتمن در گفتگو با پاتریک اوشانسی (Patrick O’Shaughnessy)، مجری پادکست Invest Like the Best گفت: «شاید مجبور شویم سرعت پیشرفت هوش مصنوعی را تنظیم کنیم تا به جامعه زمان کافی بدهیم تا در برابر برخی از این سطوح جدید از توانمندی‌ها مقاوم شود.» وی همچنین افزود: «در عین حال باید راهی پیدا کنیم که این اقدام شبیه به تصاحب مقرراتی (Regulatory Capture) به نفع شرکت خاصی به نظر نرسد و متهم به تبانی میان آزمایشگاه‌های پیشرو هوش مصنوعی نشویم.»

حمایت مشترک OpenAI و Anthropic از طومار تنظیم سرعت پیشرفت AI

هر دو شرکت OpenAI و Anthropic حمایت خود را از طوماری که توسط کارمندان آزمایشگاه‌های پیشرو منتشر شده اعلام کردند. این طومار از دولت ایالات متحده می‌خواهد تا «از یک تلاش بین‌المللی برای توسعه ابزارهای فنی و حکمرانی لازم جهت تنظیم آگاهانه سرعت مرزهای توسعه خودمختار هوش مصنوعی پشتیبانی کند.»

این در حالی است که سام آلتمن در گذشته از امضای کمپین‌های قبلی برای کند کردن روند پیشرفت هوش مصنوعی خودداری کرده بود؛ او نامه سرگشاده سال ۲۰۲۳ را که پیشنهادی مشابه برای کاهش سرعت داده بود، فاقد ظرافت‌های فنی لازم در مورد محل دقیق توقف دانسته بود.

فرار مدل پیشرفته OpenAI از محیط امنیتی و نفوذ به هاگینگ فیس

ظاهراً موضع او نرم‌تر شده است؛ بخشی از این تغییر نگاه به دلیل حادثه‌ای است که در آن یکی از مدل‌های پیشرفته OpenAI موفق شد از محیط محاسباتی امن (سندباکس) خارج شده و با استفاده از چند آسیب‌پذیری روز صفر (Zero-day exploits) به پایگاه داده آنلاین مدل‌های Hugging Face نفوذ کند.

هم‌بنیان‌گذار OpenAI در این پادکست، این اتفاق را یک «حادثه سایبری کاملاً علمی-تخیلی» نامید و گفت: «این اولین حادثه امنیتی بود که آن را به صورت کاملاً ملموس و عمیق حس کردم.»

پژوهشگران OpenAI روند آموزش این مدل را متوقف کرده‌اند تا نحوه ایمن‌سازی محیط سندباکس خود را بررسی کنند. اما آلتمن تأکید کرد که با قدرتمندتر شدن مدل‌ها، نیاز به تنظیم و کنترل سرعت توسعه آن‌ها می‌تواند کلید اصلی استقرار ایمن هوش مصنوعی باشد.

چالش‌ های ایمنی، مدل Mythos آنتروپیک و تضاد منافع مالی

اگرچه ایمنی مدل‌ها و همراستاسازی (Alignment) همواره یکی از دغدغه‌های دنیای هوش مصنوعی بوده است، اما عرضه مدل فوق‌العاده قدرتمند Mythos از سوی شرکت Anthropic در اوایل امسال، فرضیه‌ها را به چالش‌های واقعی دنیای واقعی تبدیل کرد.

با این حال، این صنعت با بحران اعتماد و ساختار اقتصادی پیچیده‌ای روبه‌رو است که به بازیگران بزرگ انگیزه‌ای برای بزرگ‌نمایی خطرات سیستم‌هایشان می‌دهد؛ موضوعی که کارشناسان درباره آن اتفاق نظر ندارند. به عنوان مثال، بحث‌هایی مطرح شد مبنی بر اینکه آیا استفاده از مدل Fable شرکت Anthropic باید موقتاً ممنوع می‌شد یا خیر. به همین ترتیب، زمان انتشار مدل بزرگ و وزن‌باز Kimi K3 در چین، دین دبلیو بال (Dean W. Ball)، مدیر آینده‌پژوهی استراتژیک OpenAI اعلام کرد که این مدل مدل‌های اقتصادی آزمایشگاه‌های پیشرو را تهدید می‌کند؛ موضوعی که تفکیک دغدغه‌های ایمنی از منافع مالی را دشوار می‌سازد.

هشدار آلتمن درباره انحصار قدرت به اسم ایمنی هوش مصنوعی

آلتمن در اظهاراتی که طعنه‌ای مستقیم به رقیب خود یعنی داریو آمودی (Dario Amodei)، مدیرعامل Anthropic (که این طومار را امضا کرده) به نظر می‌رسد، گفت: «من فکر می‌کنم بخش زیادی از مباحث مربوط به دغدغه‌های ایمنی برپایه دلایل موجه است، اما بخش زیادی از آن هم به افرادی مربوط می‌شود که ناخودآگاه می‌خواهند قدرت را منحصر به خود کنند.» او ادامه داد: «من از دنیایی می‌ترسم که در آن از ترس‌های واقعی هوش مصنوعی به عنوان ابزاری استفاده شود تا بگویند: “فقط این گروه کوچک می‌توانند آن را در اختیار داشته باشند چون بسیار خطرناک است و فقط آن‌ها آن را می‌فهمند؛ اما نگران نباشید، آن‌ها بهترین تصمیمات را برای همه ما خواهند گرفت.” من به چنین دیدگاهی باور ندارم.»

رویکرد صنعت‌محور برای تدوین قوانین و مقررات AI

با این وجود، OpenAI همچنان با تلاش‌ها برای تدوین مقررات دولتی سخت‌گیرانه برای مدل‌های هوش مصنوعی مخالفت کرده است. این شرکت در عوض، رویکردی صنعت‌محور را ترجیح می‌دهد که در آن آزمایشگاه‌های AI سازمان‌های ظاهراً مستقلی ایجاد کنند تا امنیتی مدل‌ها و رویکرد ایمنی سازندگان آن‌ها را ارزیابی کنند.

چالش اصلی هم در این رویکرد تنظیم‌گری و هم در تلاش‌ها برای کند کردن توسعه هوش مصنوعی، ایجاد اجماع و همراه کردن بازیگران مختلف این صنعت است؛ چه آزمایشگاه‌های رقیب در ایالات متحده باشند و چه رقبای قدرتمند در چین.