هشدار جدی ساتیا نادلا؛ مدیرعامل مایکروسافت خواستار تعبیه «ترمز اضطراری» در مدل‌ های هوش مصنوعی شد

ساتیا نادلا، مدیرعامل مایکروسافت، به عنوان جدیدترین مدیر ارشد حوزه فناوری، نظرات جامع و مهمی را درباره نحوه ارتقا و بهبود امنیت هوش مصنوعی (AI) مطرح کرده است.

به گزارش بخش اخبار فناوری زوم تک به نقل از TechCrunch، نادلا صبح روز شنبه در پستی در شبکه اجتماعی ایکس (توییتر سابق) نوشت که زمان آن رسیده است تا «به عقب گام برداریم و معماری اعتماد» هوش مصنوعی را به دقت ارزیابی کنیم.

لزوم بازنگری در معماری اعتماد و امنیت هوش مصنوعی

او با استفاده از اصطلاح مورد علاقه دولت ترامپ برای هوش مصنوعی نوشت: «ما نمی‌توانیم ابرهوش (Super Intelligence) را به عنوان مجموعه‌ای از جعبه‌های سیاه تو در تو در نظر بگیریم و به سادگی توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.»

همان‌طور که نادلا تشریح کرد، این رویکرد «به معنای جدا کردن مدل از مهار یا ساختاری است که کار آن را هدایت و سازماندهی می‌کند» و همچنین شامل «خارجی‌سازی کنترل‌ها و ابزارهای حفاظتی» می‌شود. او همچنین خواستار آن شد که «هر اقدام معنادار مدل» با «شواهد غیرقابل دستکاری و قابل خواندن توسط انسان» مستندسازی شود و سیستمی به کار گرفته شود که در آن «یک فرد مجاز» همیشه توانایی «متوقف کردن یا خاموش کردن مدل در حین انجام کار» را داشته باشد.

تعبیه «ترمز اضطراری»؛ راهکار کلیدی برای مهار مدل‌ های پیشرفته

مدیرعامل مایکروسافت تاکید کرد: «ما باید فرض کنیم که یک مدل به خطر افتاده است و از همان ابتدا آن را مهار کنیم. به آن مانند یک ترمز اضطراری فکر کنید.»

این اظهارات نادلا در شرایطی مطرح می‌شود که شرکت‌های پیشرو در زمینه هوش مصنوعی به‌طور فزاینده‌ای حوادثی را تایید می‌کنند که در آن‌ها به نظر می‌رسد کنترل مدل‌های خود را از دست داده‌اند. این موضع‌گیری همچنین پس از آن صورت می‌گیرد که داریو آمودی (Dario Amodei)، مدیرعامل شرکت انتروپیک (Anthropic)، طرحی را برای توسعه محتاطانه‌تر و امن‌تر فناوری هوش مصنوعی منتشر کرده بود.