پهپاد های انتحاری مجهز به هوش مصنوعی جان انسان‌ ها را گرفتند؛ نقطه بی‌ بازگشت در تسلیحات خودمختار نظامی

همه ما هشدارهایی را دیده‌ایم مبنی بر اینکه هوش مصنوعی (AI) ممکن است دچار خطا شود. برای یک چت‌بات هوش مصنوعی، این خطا معمولاً به معنای ساختن یک فکت و واقعیت ساختگی، سوءبرداشت از یک پرسش، یا ارائه با اعتمادبه‌نفس یک پاسخ اشتباه است. اما زمانی که همین فناوری درون یک سلاح نظامی مرگبار تعبیه شود، این اشتباهات می‌توانند پیامدهایی کاملاً متفاوت، هولناک و غیرقابل جبران به همراه داشته باشند.

به گزارش بخش اخبار فناوری زوم تک به نقل از دیجیتال ترندز (Digital Trends)، بر اساس گزارش تحقیقی و اختصاصی روزنامه نیویورک تایمز (The New York Times)، در جریان حمله پهپادی ۶ ژوئیه روسیه به شهر زاپروژیا در اوکراین، سه غیرنظامی از جمله یک دانشجوی ۱۹ ساله جان خود را از دست دادند. در این عملیات، اپراتورهای انسانی پهپاد را طوری برنامه‌ریزی کرده بودند که به سمت یک پمپ بنزین حرکت کند، اما یک سیستم هوش مصنوعی خودمختار (Autonomous AI System) هدف دقیق نهایی برای اصابت را—که به احتمال زیاد مخازن گاز پروپان بوده—به صورت خودکار انتخاب کرده است. این پهپاد نتوانست به هدف مذکور اصابت کند و در نزدیکی آن منفجر شد.

یکی از کارشناسان برجسته نظامی در گفتگو با نیویورک تایمز این رویداد را نخستین پرونده مستند و رسمی از کشته شدن غیرنظامیان توسط یک پهپاد روسی مجهز به سیستم خودکار هدف‌گیری هوش مصنوعی توصیف کرده است.

رایانه‌ ها هدف مرگ را انتخاب می‌کنند؛ حذف نظارت انسانی از فرآیند شلیک

پهپادهای اولیه‌ای که از کمک هوش مصنوعی بهره می‌بردند، عموماً عامل انسانی را در فرآیند انتخاب و تایید نهایی هدف دخیل نگه می‌داشتند و صرفاً هدایت مسیر و تقرب نهایی به سمت هدف را به نرم‌افزار واگذار می‌کردند. با این حال، سیستمی که از بقایای پهپاد سرنگون‌شده در زاپروژیا کشف و بررسی شد، یک گام فراتر رفته است.

بازرسان در لاشه این پهپاد یک کامپیوتر پردازشی پیشرفته مدل Nvidia Jetson Orin کشف کردند و مقامات نظامی اوکراین نیز تایید کردند که کدهای استخراج‌شده از این پردازنده نشان می‌دهد این سیستم برای شناسایی و حمله خودکار به چه نوع اشیاء و اهدافی آموزش داده شده است. سیستم‌های هدف‌گیری کاملاً خودمختار (Fully Autonomous Targeting) انسان را به کلی از چرخه تصمیم‌گیری نهایی برای انتخاب هدف و شلیک حذف می‌کنند.

جالب است بدانید که در یک دفترچه راهنمای آموزشی شرکت آی‌بی‌ام (IBM) در سال ۱۹۷۹ هشداری درج شده بود که امروز به شکلی دلهره‌آور و ملموس صدق می‌کند: «یک کامپیوتر هرگز نمی‌تواند بازخواست شود یا مسئولیت بپذیرد، بنابراین یک کامپیوتر هرگز نباید تصمیمات مدیریتی اتخاذ کند.»

اکنون پس از گذشت نزدیک به پنج دهه، ارتش‌ها و نیروهای نظامی تصمیماتی را به کامپیوترها و الگوریتم‌ها واگذار می‌کنند که پیامدهایی به مراتب حیاتی‌تر، مرگبارتر و سرنوشت‌سازتر برای جان انسان‌ها دارند.

هنگام خطای هوش مصنوعی در میدان جنگ، چه کسی مسئول کشتار غیرنظامیان است؟

یک سلاح خودمختار هوشمند نمی‌تواند در دادگاه محاکمه شود، استدلال و فرآیند تصمیم‌گیری خود را تشریح کند، یا پس از گرفتن جان یک انسان بی‌گناه مجازات شود. اگرچه مسئولیت انسانی به طور کامل ناپدید نمی‌شود، اما زمانی که یک نرم‌افزار بخشی از تصمیم‌گیری هدف‌گیری را انجام می‌دهد، تعیین مقصر حقوقی، کیفری و اخلاقی بسیار پیچیده‌تر و مبهم‌تر خواهد شد.

البته روسیه در توسعه و پیگیری این فناوری مرگبار تنها نیست. ارتش اوکراین نیز سیستم‌های کاملاً خودمختار را علیه مخازن سوخت و انبارهای تجهیزات نظامی در منطقه کریمه آزمایش کرده است؛ هرچند وزیر دفاع سابق این کشور به نیویورک تایمز اعلام کرده بود که آن حملات آزمایشی به کشته شدن غیرنظامیان منجر نشده است.

ورود به سراشیبی خطرناک تسلیحات هوش مصنوعی و ضرورت قوانین بین‌المللی

واقعیت این است که سلاح‌های هوش مصنوعی خودمختار هم‌اکنون وارد یک جنگ واقعی و تمام‌عیار شده‌اند و در جریان استفاده از آن‌ها، غیرنظامیان جان خود را از دست داده‌اند. روسیه و اوکراین هر دو در حال آزمایش عملیاتی این سیستم‌ها هستند و قابلیت‌های این فناوری از این نقطه به بعد تنها پیشرفته‌تر و قدرتمندتر خواهد شد.

این روند آغاز یک سراشیبی بی‌نهایت خطرناک است؛ زیرا به محض اینکه ارتش‌ها واگذاری اختیارات هدف‌گیری و شلیک را به نرم‌افزارها آغاز کنند، بازپس‌گیری این مسئولیت و کنترل مجدد آن فوق‌العاده دشوار خواهد بود. شاید دیگر هیچ راه بازگشتی از این مسیر وجود نداشته باشد؛ واقعیتی که تعیین محدودیت‌های حقوقی الزام‌آور بین‌المللی برای نحوه استفاده از این سامانه‌های مرگبار را به موضوعی فوری و حیاتی برای جامعه جهانی تبدیل می‌کند.