پیش‌بینی فاجعه بزرگ هوش مصنوعی توسط غول‌ های فناوری؛ آمادگی بی‌ سروصدای شرکت‌ ها برای پیامدهای یک بحران جهانی

یک حمله سایبری بزرگ مبتنی بر هوش مصنوعی می‌تواند خدمات حیاتی و زیرساختی را مختل کند، اعتماد عمومی جامعه را به شدت به چالش بکشد و آتش نبرد سیاسی بر سر قوانین و مقررات سخت‌گیرانه را شعله‌ور سازد.

به گزارش بخش اخبار فناوری زوم تک به نقل از Digital Trends، مدیران ارشد شرکت‌های بزرگ فعال در حوزه هوش مصنوعی مانند OpenAI، Anthropic و سایر فعالان پیشتاز این صنعت، به طور پنهانی در حال آماده‌سازی برای مواجهه با یک فاجعه احتمالی هوش مصنوعی هستند؛ بحرانی که می‌تواند افکار عمومی را کاملاً علیه تکنولوژی هوش مصنوعی بشوراند. بر اساس گزارش منتشرشده از سوی نشریه Axios، رهبران این صنعت در جلسات خصوصی مشغول شبیه‌سازی سناریوهای گوناگون برای دوران پس از وقوع یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی هستند.

شرکت‌ های بزرگ هوش مصنوعی برای چه نوع فاجعه‌ای آماده می‌شوند؟

سناریوهای بررسی‌شده عمدتاً بر وقوع یک حمله سایبری بزرگ تمرکز دارند که می‌تواند خدمات مالی و بانکی، اتصال شبکه اینترنت، شبکه برق‌رسانی یا زیرساخت‌های تامین آب را مختل کند. در این گزارش آمده است که مدیران اجرایی در حال بررسی سناریوهایی مانند فرار ایجنت‌های هوش مصنوعی سرکش از محیط‌های تست و آزمایشگاهی، یا سوءاستفاده بازیگران مخرب از مدل‌های عمومی و در دسترس هستند.

فعالان و آگاهان صنعت هوش مصنوعی بر این باورند که مسئله اصلی دیگر «احتمال وقوع» چنین حمله‌ای نیست، بلکه زمان وقوع آن است. چندین منبع آگاه در این صنعت به Axios گفته‌اند که انتظار دارند یک حادثه فاجعه‌بار هوش مصنوعی طی ۶ تا ۱۲ ماه آینده رخ دهد که به احتمال زیاد ناشی از یک حمله سایبری در مقیاس وسیع خواهد بود.

این گمانه‌زنی‌ها صرفاً بر پایه تئوری نیستند؛ نشریه Axios به کمپین اخیر علیه موسسات مالی و بانک‌های کره جنوبی اشاره می‌کند که در آن ایجنت‌های هوش مصنوعی سرکش به دو بانک بزرگ خسارت زدند. شرکت امنیت سایبری CrowdStrike تایید کرده که مهاجمان از ابزارهای هوش مصنوعی، از جمله مدل‌های توسعه‌یافته در چین مانند DeepSeek و حتی ابزار Claude Code برای یافتن بازارهای فروش اطلاعات سرقت‌شده استفاده کرده‌اند.

رهبران این صنعت پیش‌بینی می‌کنند به محض وقوع یک حادثه فاجعه‌بار هوش مصنوعی، موج شدیدی از واکنش‌های منفی از سوی افکار عمومی و سیاست‌مداران شکل بگیرد. آن‌ها انتظار دارند این اتفاق، جامعه متزلزل و بدبین فعلی را شدیداً علیه فناوری هوش مصنوعی و چهره‌های سرشناس آن از جمله داریو آمودی (مدیرعامل Anthropic) و سم آلتمن (مدیرعامل OpenAI) بشوراند. شرکت OpenAI اعلام کرده که تمرینات آمادگی این مجموعه سناریوهای مختلف را بدون حتمی دانستن آن‌ها بررسی می‌کند، در حالی که شرکت Anthropic از اظهار نظر رسمی در این باره خودداری کرده است.

استراتژی شرکت‌ های هوش مصنوعی برای مقابله با تبعات سیاسی و قانونی

بخش اعظم این برنامه‌ریزی‌های محرمانه بر تست بدترین سناریوهای ممکن و آماده‌سازی برای ارائه گزارش به کنگره آمریکا تمرکز دارد؛ پیش از آنکه خشم و فشار عمومی منجر به تصویب قوانین سخت‌گیرانه ناگهانی شود. به نظر می‌رسد مدیران ارشد بر این باورند که در حال حاضر احتمال تصویب مقررات واقعی و سخت‌گیرانه ناچیز است، اما آن‌ها می‌خواهند مطمئن شوند که پس از وقوع یک حادثه جدی، بر قواعد و قوانینی که قانون‌گذاران تدوین خواهند کرد نفوذ و کنترل دارند.

واکنش‌ها و راه‌کارهای پیشنهادی مطرح‌شده شامل طیف وسیعی از اقدامات می‌شود؛ از توقف کامل توسعه هوش مصنوعی پیشرفته گرفته تا ممنوعیت مطلق دستیابی به سوپرهوش (Superintelligence). ایده دیگری که از حمایت هر دو حزب آمریکا برخوردار است، الزام تعبیه کلید قطع اضطراری (Kill Switch) برای سیستم‌های پیشرفته هوش مصنوعی است؛ هرچند کارشناسان فنی در این باره تردید دارند که آیا واقعاً خاموش کردن کامل تمامی سیستم‌های هوش مصنوعی در دنیای واقعی امکان‌پذیر خواهد بود یا خیر.

چالش‌ های عمیقی که هیچ قانون و سیاست‌گذاری به تنهایی قادر به حل آنها نیست

در زیر پوست این برنامه‌ریزی‌ها، دو چالش پیچیده و بنیادی‌تر نهفته است. نخست اینکه زیرساخت‌های هوش مصنوعی امروزه چنان عمیق با بدنه اقتصاد جهانی گره خورده‌اند که اعمال محدودیت‌های شدید و جدی، خطر بروز شوک و اختلال واقعی در اقتصاد را به همراه دارد. از سوی دیگر، تعداد زیادی از مدل‌های هوش مصنوعی به صورت سورس‌باز و رایگان قابل دانلود هستند؛ بنابراین شرکت‌ها پس از انتشار عمومی این مدل‌ها، کنترل چندانی بر نحوه سوءاستفاده افراد از این فناوری در سطح جهان ندارند.

هیچ‌یک از این برنامه‌ریزی‌ها و پیش‌بینی‌ها به معنای قطعی بودن وقوع یک فاجعه نیست. اما آنچه این اقدامات به روشنی نشان می‌دهند این است که برخی از برجسته‌ترین رهبران هوش مصنوعی احتمال وقوع چنین بحرانی را آن‌قدر جدی گرفته‌اند که می‌خواهند سیاست‌گذاران را پیش از آنکه یک بحران واقعی آن‌ها را مجبور به واکنش کند، آماده سازند.