هشدار جدی انتروپیک در مورد آینده هوش مصنوعی ؛ از دست رفتن کنترل انسان و نیاز فوری به پدال ترمز همگانی

به گزارش زوم تک از رویترز، شرکت هوش مصنوعی انتروپیک روز پنجشنبه اعلام کرد که توسعه دهندگان پیشرو در حوزه هوش مصنوعی باید یک روش هماهنگ و قابل راستی آزمایی را برای کاهش سرعت یا توقف موقت توسعه سیستم های پیشرفته ایجاد کنند.

طرح هماهنگ برای توقف توسعه هوش مصنوعی در صورت افزایش خطرات

این هشدار زمانی صادر شده است که این سیستم ها ممکن است با سرعتی بیشتر از توانایی جامعه برای مدیریت خطرات، خود را بهبود ببخشند. هوش مصنوعی که بتواند خودش را بسازد یک پیشرفت بزرگ در تاریخ فناوری خواهد بود، اما این استارتاپ مطرح تاکید کرده است که بهبود خودکار و بازگشتی کامل سیستم ها ممکن است خطر از دست دادن کنترل انسان بر هوش مصنوعی را به شدت افزایش دهد. به گفته این شرکت، اگر سیستم ها قادر باشند به طور کامل جانشینان خود را بسازند، راه های ایمن سازی، نظارت و شکل دهی به رفتار آن ها بسیار حیاتی تر و پیچیده تر از گذشته خواهد شد.

خطر خود اصلاحی ماشین ها و سرعت سرسام اور پیشرفت فناوری

شرکت انتروپیک در بیانیه خود آورده است که برای جهان بسیار مفید خواهد بود تا گزینه ای برای کاهش سرعت یا توقف موقت توسعه هوش مصنوعی پیشرو داشته باشد. این اقدام به ساختارهای اجتماعی و تحقیقات همراستایی اجازه می دهد تا خود را با پیشرفت سریع این فناوری هماهنگ کنند. به عنوان نشانه ای از اینکه این افق چقدر سریع در حال نزدیک شدن است، انتروپیک اشاره کرد که بیش از ۸۰ درصد از کدهای اضافه شده به پایگاه کد خود این شرکت در ماه می، توسط مدل هوش مصنوعی کلود نوشته شده است. این حجم بالا از خودکارسازی در فرآیند توسعه نشان می دهد که پدیده بهبود خودکار دیگر یک فرضیه دور از ذهن نیست و به یک واقعیت ملموس در ازمایشگاه های فناوری تبدیل شده است.

چرا توقف یکجانبه توسط یک شرکت کارساز نخواهد بود؟

این پیشنهاد به دلیل رد کردن ایده توقف های فردی بسیار حائز اهمیت است. انتروپیک استدلال می کند که اگر یک شرکت به تنهایی ترمز توسعه را فشار دهد، دستاورد خاصی حاصل نخواهد شد و این کار صرفا رهبری بازار را به رقبای کم احتیاط تر واگذار می کند، به جای اینکه زمان بیشتری برای جامعه بخرد. یک کاهش سرعت معنادار نیازمند توافق میان چندین ازمایشگاه بزرگ و دارای منابع مالی قوی در لبه فناوری است. علاوه بر این، باید قوانین مشخصی در مورد اینکه چه شرایطی باعث فعال شدن این ترمز اضطراری می شود و چه زمانی این محدودیت ها برداشته می شوند، تعیین گردد و یک نهاد نظارتی مستقل بر این فرآیند نظارت کند.

تلاش برای ایجاد یک سازوکار جهانی و بین المللی در حوزه ایمنی

بخش تحقیقاتی شرکت انتروپیک اعلام کرده است که قصد دارد سیستم های راستی آزمایی مورد نیاز برای چنین طرحی را مطالعه کند و در ماه های اینده سیاست گذاران، محققان و شرکت های رقیب را برای گفتگو در این زمینه دور هم جمع کند. زمان بندی این پیشنهاد نیز بسیار هوشمندانه انتخاب شده است؛ چرا که انتروپیک به تازگی دور جدیدی از تامین مالی خود را با ارزش گذاری نزدیک به یک تریلیون دلار به پایان رسانده و به صورت محرمانه برای عرضه اولیه سهام در بازار بورس آمریکا اقدام کرده است. پیشنهاد این شرکت برای خویشتن داری کل صنعت، با وجود ارزش تجاری بسیار بالای خود، نشان دهنده عمق نگرانی های امنیتی است.

چالش های رگولاتورها و اینده نظارت بر آینده هوش مصنوعی

برای ناظران بین المللی، این ایده یادآور منطق هماهنگی پشت موسسه ایمنی هوش مصنوعی و فرآیندهای جهانی است که در ان ها سخت ترین بخش همیشه راستی آزمایی و ضمانت اجرایی بوده است، نه صرفا اصل احتیاط. طرح پدال ترمز انتروپیک در واقع یک پیشنهاد حاکمیتی است و نه یک تعهد یک طرفه، و اعتبار آن کاملا به امضا و پیوستن شرکت های رقیب بستگی دارد. این موضوع در هفته ای مطرح می شود که مدیران ارشد هوش مصنوعی خواستار وضع قوانینی برای جلوگیری از طراحی تسلیحات بیولوژیکی توسط مدل های خود شده اند. اکنون این سوال بزرگ پیش روی رگولاتورها قرار دارد که آیا می توان یک ترمز هماهنگ و قابل اعتماد برای هوش مصنوعی ساخت و به آن اعتماد کرد یا خیر.