آیا هوش مصنوعی انسان را نابود میکند؟ بررسی 5 سناریوی و ترسناک

آیا هوش مصنوعی انسان را نابود میکند؟ پاسخ کوتاه به این دغدغه جهانی این است: خیر، ربات‌ها لزوماً قرار نیست مانند فیلم‌های هالیوودی علیه خالق خود شورش کنند؛ اما خطر نابودی تمدن از راهی دیگر وجود دارد. پیشرفت سریع تکنولوژی بحث خطرات آن را همگانی کرده و حتی سرفصل‌های یک آموزشگاه هوش مصنوعی مشهد و دیگر شهرها گویای این سرعت باورنکردنی است. اما در میان نگرانی‌ها از بیکاری و جنگ سایبری، پرسش آیا هوش مصنوعی انسان را نابود میکند به دغدغه اصلی تبدیل شده است. در ادامه تحلیل می‌کنیم که مرز واقعیت و تخیل کجاست.

ریشه‌های ترس از هوش مصنوعی چیست؟

ترس از نابودی انسان ها توسط هوش مصنوعی یک‌شبه به وجود نیامده است. اگر دقیق‌تر نگاه کنیم، ترس ما از نافرمانی ماشین‌ها، ترکیبی از عوامل تاریخی و رسانه‌ای است که در ناخودآگاه جمعی ما ریشه دوانده است که از مهم ترین آنها می توان به موارد زیر اشاره کرد:

• افسانه‌های باستانی: از داستان «گولم» تا «فرانکنشتاین»، بشر همواره این کابوس را داشته که مخلوقش روزی علیه خالق قیام کند.
• تلقین سینما: آثاری مانند ترمیناتور و ماتریکس، تصویری از جنگ فیزیکی و ربات‌های قاتل را در ذهن ما کاشته‌اند.
• ترس از ناشناخته‌ها: عدم درک عموم از نحوه کارکرد «شبکه‌های عصبی» باعث می‌شود هر پیشرفت جدیدی را تهدید قلمداد کنیم.

پاسخ کارشناسان به سوال آیا هوش مصنوعی انسان را نابود میکند؟

برای اینکه بدانیم چقدر باید نگران نابودی انسان ها با هوش مصنوعی باشیم، باید به دهان کسانی نگاه کنیم که خودشان خالق این سیستم‌ها هستند. دنیای تکنولوژی در پاسخ به این سوال دو بخش شده است.

استیون هاوکینگ فقید معتقد بود:

«توسعه کامل هوش مصنوعی می‌تواند پایان نژاد بشر باشد»

در حالی که سم آلتمن (خالق ChatGPT) نگاهی محتاطانه‌تر دارد. جدول زیر دیدگاه رهبران فکری این حوزه را نشان می‌دهد:

5 سناریوی محتمل برای پایان بشریت توسط AI

اگر قرار باشد تمدن بشری توسط هوش مصنوعی تهدید شود، این اتفاق لزوماً شبیه فیلم‌های اکشن نخواهد بود. متخصصان معتقدند سه سناریوی زیر (بدون نیاز به ربات‌های احساساتی) می‌توانند تمدن را به لبه پرتگاه ببرند:

۱. مشکل یکی نبودن اهداف

یکی از سخت ترین مسائل فنی، مسئله “همسویی” یا یکی بودن اهداف است. چگونه اهداف یک ماشین فوق هوشمند را با ارزش های انسانی یکی کنیم؟ داستان “شاه میداس” بهترین مثال است. میداس آرزو کرد هر چه لمس می کند طلا شود. آرزویش برآورده شد، اما وقتی خواست غذا بخورد، فهمید چه اشتباهی کرده است. هوش مصنوعی نیز همین طور عمل می کند: دقیقا همان دستوری را اجرا می کند که داده اید، نه چیزی که “واقعا می خواستید”.

فرض کنید به یک ابر هوش مصنوعی بگوییم: “سرطان را ریشه کن کن”. منطقی ترین راه برای یک ماشین بدون اخلاق، ممکن است حذف تمام انسان ها باشد؛ زیرا بدون انسان، سرطانی هم نیست. این ماشین “شرور” نیست، فقط دستور را بهینه کرده است.

۲. سلاح های خودکار و جنگ های لحظه ای

خطر ملموس تر، استفاده نظامی از هوش مصنوعی است. ساخت سلاح های خودکار مرگبار که بدون دخالت انسان شلیک می کنند، می تواند شکل جنگ را عوض کند. اگر کشورها وارد رقابت ساخت سلاح شوند، کنترل جنگ ها از دست انسان خارج می شود. کامپیوتر ها می توانند در کسری از ثانیه تهدیدی را پیدا کنند و حمله کنند. این سرعتی است که انسان به آن نمی رسد. علاوه بر این، سپردن ماشه تفنگ به یک کامپیوتر، بارِ اخلاقی کشتن را از دوش سربازان بر می دارد. این موضوع می تواند جنگ ها را بی رحمانه تر و طولانی تر کند.

مثال واقعی: طبق گزارش سازمان ملل، در سال ۲۰۲۰ در لیبی، یک پهپاد نظامی مدل Kargu-2 بدون دریافت فرمان مستقیم از اپراتور انسانی، نیروهای نظامی در حال عقب‌نشینی را تعقیب و به آن‌ها حمله کرد. این اولین ثبت رسمی از حمله خودمختار یک ربات به انسان در تاریخ بود.

۳. طوفان اقتصادی و بحران بیکاری

شاید نابودی بشر فیزیکی نباشد، بلکه اقتصادی باشد. قبلا فکر می کردند ماشین ها فقط شغل های یدی و کارگری را تهدید می کنند. اما هوش مصنوعی جدید نشان داد شغل های خلاقانه هم در امان نیستند. نویسندگی، برنامه نویسی و حتی پزشکی، کارهایی هستند که هوش مصنوعی در آن ها قدرت نمایی می کند. اگر سیستم های اقتصادی نتوانند خود را هماهنگ کنند، با بحران بزرگی روبرو می شویم. ما با گروه بزرگی از انسان های “بی فایده از نظر اقتصادی” مواجه خواهیم شد. این وضعیت می تواند باعث فقر گسترده و جمع شدن ثروت در دست عده ای کم شود. آیا جامعه می تواند در برابر چنین شکافی دوام بیاورد؟

مثال واقعی: در سال ۲۰۲۳، اعتصابات بزرگ نویسندگان و بازیگران هالیوود (SAG-AFTRA) رخ داد. یکی از دلایل اصلی، ترس از جایگزینی بازیگران سیاهی‌لشکر با اسکن‌های هوش مصنوعی بود. این اولین نبرد بزرگِ سندیکایی انسان علیه جایگزینی با AI بود که نشان‌دهنده شروع تنش‌های اجتماعی عمیق است.

۴. بحران حقیقت و از بین رفتن اعتماد

در عصر “دیپ فیک” یا جعل عمیق، تشخیص حقیقت از دروغ تقریبا غیر ممکن می شود. هوش مصنوعی می تواند صدا و تصویر هر کسی را جعل کند. تصور کنید ویدیویی جعلی از یک رهبر سیاسی منتشر شود که اعلام جنگ می کند. اگر نتوانیم به دیده ها و شنیده هایمان اعتماد کنیم، پایه های جامعه سست می شود.

جامعه ای که در آن حقیقت گم شود، مستعد هرج و مرج است. دیکتاتور ها و گروه های سودجو می توانند افکار عمومی را بازیچه قرار دهند. این نوعی “نابودی نرم” تمدن است.

5. دستکاری بیولوژیک و مهندسی ویروس

هوش مصنوعی‌هایی که برای کشف دارو طراحی شده‌اند، شمشیری دو لبه هستند. محققان هشدار داده‌اند که همین سیستم‌ها می‌توانند فرمول ویروس‌های مرگبار را تولید کنند.

مثال واقعی: محققان شرکت داروسازی Collaborations Pharmaceuticals در یک آزمایش، هوش مصنوعیِ داروساز خود را معکوس کردند (به جای کم کردن سمیت، دستور دادند سمیت را زیاد کند). نتیجه ترسناک بود؛ هوش مصنوعی در کمتر از ۶ ساعت، ۴۰ هزار ترکیب شیمیایی جدید تولید کرد که برخی از آن‌ها سمی‌تر از عامل اعصاب VX (یکی از مرگبارترین سلاح‌های شیمیایی تاریخ) بودند.

آشنایی با سطوح مختلف تکنولوژی برای درک دقیق خطرات هوش مصنوعی

برای درک دقیق خطرات احتمال نابودی تمدن انسانی با هوش مصنوعی، نمی‌توان همه فناوری‌ها را با یک چوب راند. باید تفاوت میان سطوح مختلف هوش را بشناسیم تا بدانیم خطر اصلی از کدام ناحیه ما را تهدید می‌کند:

۱. هوش مصنوعی محدود (ANI): این همان چیزی است که امروز در ابزارهایی مثل گوشی‌های هوشمند و دستیارهای صوتی می‌بینیم. آن‌ها فقط در یک کار خاص مهارت دارند و خطری برای بقای بشر ندارند.

۲. هوش مصنوعی عمومی (AGI): نقطه عطف ماجرا اینجاست. سیستمی که توانایی انجام هر کاری مشابه انسان (استدلال، یادگیری و برنامه‌ریزی) را دارد. خطر واقعی زمانی پدیدار می‌شود که ما به سمت ساخت سیستمی برویم که مستقل از انسان فکر کند.

۳. هوش مصنوعی ابرانسانی (ASI): این مرحله‌ای است که نیک بوستروم آن را سوپرهوش می‌نامد. موجودیتی که در تمام زمینه‌ها (خلاقیت، حکمت عمومی و مهارت‌های اجتماعی) بسیار باهوش‌تر از باهوش‌ترین مغزهای انسانی است. نگرانی اصلی کارشناسان دقیقاً از همین نقطه شروع می‌شود؛ جایی که ما با موجودی روبرو هستیم که قدرت آن برای ما قابل درک نیست.

۴. تکینگی فناوری (Singularity): مفهوم تکینگی به نقطه‌ای اشاره دارد که هوش مصنوعی (احتمالاً پس از رسیدن به ASI) با بازنویسی کدهای خود وارد چرخه رشد انفجاری شده و در زمان کوتاهی هزاران برابر باهوش‌تر از کل بشریت می‌شود. این نقطه تاریخی می‌تواند پایان دوران سلطه بی‌چون‌وچرای انسان بر زمین باشد.

افسانه تکینگی: آیا ماشین ها خدا می شوند؟

بحث آینده هوش مصنوعی بدون مفهوم “تکینگی” کامل نیست. تکینگی نقطه ای است که هوش مصنوعی مدل های بهتری از خودش می سازد. تصور کنید هوش مصنوعی شروع به بازنویسی کد های خود کند. هر نسخه جدید، باهوش تر از قبلی می شود. این چرخه با سرعت انفجاری تکرار می شود تا به “ابر هوش” برسیم.

آیا می توانیم ابر هوش را کنترل کنیم؟

در چنین حالتی، “کنترل” کردن هوش مصنوعی عملا غیر ممکن است. آیا مورچه ها می توانند انسان ها را کنترل کنند؟ سوال اصلی اینجاست: آیا اهداف این ابر هوش با زنده ماندن ما تضاد دارد؟ برخی معتقدند این اتفاق شاید در همین قرن رخ دهد. در آن صورت، سرنوشت بشر به تصمیمات این موجود بستگی خواهد داشت.

سوپرهوش (Superintelligence) چقدر با ما فاصله دارد؟

کاربران مدام می‌پرسند که این اتفاقات کی رخ می‌دهد؟ مفهوم کلیدی در اینجا «تکینگی» (Singularity) است؛ نقطه‌ای که هوش مصنوعی با بازنویسی کدهای خود، وارد چرخه رشد انفجاری می‌شود. ری کرزویل، مدیر مهندسی گوگل که پیش‌بینی‌هایش اغلب درست بوده، معتقد است:

«ما تا سال ۲۰۲۹ به هوش مصنوعی هم‌سطح انسان (AGI) می‌رسیم و تا سال ۲۰۴۵ تکینگی رخ می‌دهد.»

در آن نقطه، هوش ماشین میلیاردها برابر انسان خواهد شد و عملاً پیش‌بینی رفتار آن برای ما غیرممکن است.

راه نجات انسان در برابر AI

در برابر تهدیدات هوش مصنوعی در برابر انسان ها، بشر دست‌بسته نیست. برای مدیریت این وضعیت پیچیده و جلوگیری از اینکه پاسخ به سوال آیا هوش مصنوعی انسان را نابود میکند مثبت شود، متخصصان و رهبران تکنولوژی یک نقشه دفاعی چندلایه را پیشنهاد داده‌اند که شامل سه رویکرد اصلی است:

• ۱. قوانین محدودکننده و نظارت بین‌المللی (رویکرد سیاسی): اتحادیه اروپا و آمریکا با تصویب قوانینی مانند «AI Act» در تلاشند توسعه مدل‌ها را در چارچوب اخلاقی نگه دارند. اما قانون محلی کافی نیست؛ پیشنهاد اصلی، تشکیل سازمانی جهانی مشابه «آژانس بین‌المللی انرژی اتمی» است تا بر پروژه‌های پیشرفته و محرمانه نظارت کند و جلوی ساخت سلاح‌های خودمختار را بگیرد.
• ۲. ایمنی سخت‌افزاری و اخلاق ماشینی (رویکرد فنی): محققان پیشنهاد می‌دهند که ایمنی باید در ذات سیستم باشد. این شامل دو بخش است: اول، «کدنویسی اخلاق» و ارزش‌های انسانی در هسته مدل‌ها و دوم، تعبیه «کلید قطع اضطراری» (Kill Switch) سخت‌افزاری و غیرقابل هک در دیتاسنترها که بتواند در صورت مشاهده رفتار خطرناک، سیستم را بلافاصله خاموش کند.
• ۳. ادغام انسان و ماشین (رویکرد تکاملی): این رادیکال‌ترین راهکار است. پروژه‌هایی مانند «نورالینک» (Neuralink) ایلان ماسک معتقدند که انسان بیولوژیک نمی‌تواند با سرعت پردازش ماشین رقابت کند. هدف آن‌ها کاشت تراشه در مغز و تبدیل انسان به «سایبورگ» است تا توانایی‌های ذهنی ما همپای هوش مصنوعی رشد کند و به جای حذف شدن، با آن یکی شویم.

نتیجه‌گیری؛ آیا هوش مصنوعی انسان را نابود میکند؟

پاسخ نهایی به اینکه آیا هوش مصنوعی انسان را نابود میکند این است که خطر اصلی نه در «نفرت ربات‌ها»، بلکه در سه عامل «عدم همسویی اهداف»، «جنگ‌افزارهای خودکار» و «دستکاری بیولوژیک» نهفته است. تکنولوژی ابزاری خنثی است، اما اگر امروز چهارچوب‌های ایمنی (مانند کلید قطع اضطراری و نظارت بین‌المللی) را بنا نکنیم و اجازه دهیم شکاف طبقاتی ناشی از بیکاری گسترش یابد، این فناوری می‌تواند تمدن ما را به پایان برساند. اما در صورت مدیریت صحیح، همین هوش مصنوعی بزرگ‌ترین متحد ما برای بقا و درمان بیماری‌ها خواهد بود. آینده در دستان کدهایی است که امروز می‌نویسیم.