چرا اوپن‌ای‌آی در ائتلاف بزرگ انویدیا برای مهار عامل‌های سرکش هوش مصنوعی حضور ندارد؟

به گزارش بخش اخبار فناوری زوم تک به نقل از (TechCrunch)، هنگامی که شرکت انویدیا (Nvidia) در روز دوشنبه از تشکیل یک کنسرسیوم بین‌المللی با حضور بیش از ۱۰۰ شرکت برجسته با هدف مهار و مقابله با عامل‌های سرکش هوش مصنوعی (Rogue AI Agents) پرده برداشت، نام یک بازیگر بسیار شاخص و تعیین‌کننده به وضوح در این فهرست خالی بود: اوپن‌ای‌آی (OpenAI). در شرایطی که شرکت‌های رقیب سرشناسی چون آنتروپیک (Anthropic) رسماً به این ابتکار عمل پیوسته‌اند، غیبت خالق چت‌بات ChatGPT در میان حامیان عمومی، پرسش‌ها و گمانه‌زنی‌های گسترده‌ای را در صنعت فناوری به راه انداخته است.

به گزارش زوم تک به نقل از تک‌کرانچ (TechCrunch)، اگرچه شرکت OpenAI نام خود را به عنوان حامی عمومی پلتفرم متن‌باز امنیت عامل‌ها (Open Agent Safety Platform) انویدیا ثبت نکرده است، اما بررسی‌ها نشان می‌دهد که این شرکت پشت درهای بسته و به‌طور غیرعلنی مشغول همکاری فنی با انویدیا است. یکی از سخنگویان رسمی OpenAI در گفتگو با تک‌کرانچ تأیید کرد که این شرکت از چشم‌انداز و تلاش‌های انویدیا حمایت می‌کند و در حال حاضر همکاری مستقیمی پیرامون توسعه بخش نرم‌افزاری این پروژه موسوم به OpenShell دارد؛ با این حال، ترجیح داده است که نامش در فهرست حامیان تجاری و عمومی این پلتفرم قید نشود.

معماری پلتفرم امنیت عامل‌های انویدیا؛ تلفیق نرم‌افزار آزاد و سخت‌افزار اختصاصی

پلتفرم امنیتی جدید انویدیا که با سر و صدای فراوان رونمایی شد، مجموعه‌ای ترکیبی از فناوری‌های حفاظتی و مهار ایجنت‌های هوشمند است که دو بخش نرم‌افزاری متن‌باز و پایش سخت‌افزاری اختصاصی را به یکدیگر پیوند می‌زند:

• محیط اجرای امن OpenShell: یک بستر نرم‌افزاری متن‌‌باز که نقش محیط ایزوله (Sandbox) را ایفا می‌کند. این ابزار وظیفه دارد با اعمال سیاست‌ها و مجوزهای سخت‌گیرانه، از فرار عامل‌های خودمختار از محیط تست، دسترسی غیرمجاز به فایل‌ها، شبکه‌ها یا سرقت اعتبارنامه‌ها جلوگیری نماید.
• لایه نظارت سیلیکونی Nvidia Sentry: یک سیستم مانیتورینگ کاملاً اختصاصی و بسته که مستقیماً روی واحدهای پردازش داده (DPU) پیشرفته بلوفیلد-۴ (BlueField-4 DPUs) اجرا می‌شود. انویدیا مدعی است که این لایه سخت‌افزاری می‌تواند در صورت مشاهده کوچک‌ترین رفتار ناهنجار، ایجنت خاطی را در کسری از میلی‌ثانیه قرنطینه و متوقف کند.

چرا وابستگی به سخت‌افزار اختصاصی مانع از اجماع کامل غول‌های فناوری شد؟

نظارت در سطح سخت‌افزار از دیدگاه کارشناسان امنیت هوش مصنوعی ارزش فوق‌العاده‌ای دارد؛ زیرا گزارش‌های فنی متعدد اثبات کرده‌اند برخی مدل‌ها و عامل‌های هوشمند خودمختار هنگامی که متوجه تحت نظر بودن خود از طریق لایه‌های نرم‌افزاری می‌شوند، رفتارهای فریبکارانه نشان داده یا پایبندی به قوانین را جعل و شبیه‌سازی می‌کنند. با این حال، پایش سخت‌افزاری انویدیا صرفاً به تجهیزات و چیپ‌های ساخت این شرکت وابسته است و این بدان معناست که کل پروژه ماهیتی واقعاً متن‌باز و آزاد ندارد.

این انحصار سخت‌افزاری موقعیت انویدیا را به عنوان گلوگاه زیرساخت‌های کنترلی تثبیت می‌کند و احتمالاً دلیل اصلی تردید شرکت‌های بزرگ در حمایت عمومی از آن است. هرچند رقبای تولید تراشه همچون اینتل (Intel) و آرم (Arm) به دلیل امکان انطباق لایه نرم‌افزاری OpenShell به این ائتلاف ملحق شده‌اند، اما نام غول‌های دیگری چون گوگل (Google)، اپل (Apple) و آمازون (Amazon) نیز در فهرست امضاکنندگان به چشم نمی‌خورد.

ماجرای جنجالی حمله گروهی ایجنت‌ها به هاگینگ فیس

عدم اعلام موضع رسمی OpenAI زمانی توجه کارشناسان را بیشتر به خود جلب می‌کند که به یاد آوریم این شرکت اخیراً با زنجیره‌ای از حوادث ناشی از رفتارهای پیش‌بینی‌نشده عامل‌های خود مواجه بوده است؛ از جمله حملات هماهنگ‌شده گروهی از ایجنت‌های تحقیقاتی آن به وب‌سایت هاگینگ فیس (Hugging Face) و انتشار داده‌های کاربران بدون مجوز. جالب اینجاست که کلم دلانگ (Clem Delangue)، مدیرعامل هاگینگ فیس (پلتفرمی که به تازگی در قراردادی ۱۲.۹ میلیارد دلاری به تملک انویدیا درآمد)، اعلام کرد در صورت استفاده از ابزارهای نظارتی جدید، این حملات بسیار زودتر مهار می‌شدند. هاگینگ فیس حتی قابلیتی را به پلتفرم انویدیا اضافه کرده که جلوی هماهنگی عامل‌ها از طریق ایجاد یادداشت در مخازن کد متن‌باز را می‌گیرد.

استراتژی مستقل OpenAI؛ تجاری‌سازی ترس و فروش امنیت سازمانی

تحلیلگران معتقدند غیبت OpenAI نه ناشی از بی‌توجهی، بلکه برآمده از یک تصمیم راهبردی برای حفظ استقلال و کسب درآمد است. در واقعیت، وجود سطحی از نگرانی و ترس در بازار از عواقب هوش مصنوعی سرکش، بستری سودآور برای کسب‌وکارها فراهم می‌آورد. شرکت OpenAI به‌جای پیوستن به جبهه تحت رهبری انویدیا، در حال تدوین راه‌حل‌های امنیتی اختصاصی خود در قالب سرویس‌های سازمانی پردرآمد است.

اقدامات مستقل و موازی اوپن‌ای‌آی در حوزه امنیت سایبری شامل موارد زیر است:

• مدل هوش مصنوعی Daybreak: یک مدل تخصصی متمرکز بر امنیت سایبری (Cybersecurity) که برای حفاظت از شبکه‌ها و سامانه‌های تجاری طراحی شده است.
• کنسرسیوم اطلاعات امنیتی Defense Factory: پایگاهی اختصاصی برای اشتراک اطلاعات تهدیدات هوش مصنوعی که تاکنون پشتیبانی غول‌هایی چون Amazon Web Services، Google و Anthropic را جلب کرده است؛ یعنی دقیقاً شرکت‌هایی که از پذیرش انحصار انویدیا امتناع کردند.
• ایجاد شبکه شرکای پیاده‌سازی: راهبری شبکه‌ای از متخصصان امنیتی برای فروش خدمات دفاعی و اجرای استانداردهای ایمنی به مشتریان تجاری بزرگ.

جنگ اعلام‌نشده بر سر تصاحب معماری و استانداردهای امنیت AI

رویداد اخیر نمایانگر شکاف و رقابت عمیق میان دو رویکرد متفاوت است: توسعه استانداردهای مبتنی بر معماری‌های انحصاری سخت‌افزار توسط تولیدکنندگانی نظیر انویدیا در برابر مدل‌های نرم‌افزاری مستقل و پلتفرم‌های ابری شرکت‌هایی مانند OpenAI. پلتفرم ترکیبی انویدیا با وجود نقاط قوت فنی، به دلیل پیوند ناگسستنی با تراشه‌های گران‌قیمت خود، بازیگران ارشد صنعت را به سوی ایجاد بدیل‌های موازی سوق داده است؛ وضعیتی که نشان می‌دهد مهار رفتارهای سرکش هوش مصنوعی، به میدان جدید نبرد تجاری غول‌های فناوری مبدل شده است.