آیا نگرانی‌ها درباره‌ی هوش مصنوعی اغراق‌ آمیز است؟

با افزایش هشدارهای گسترده از سوی متخصصان درباره‌ی خطرات احتمالی هوش مصنوعی (AI)، شاید لازم باشد کمی بیشتر به این موضوع توجه کنیم. از سوی دیگر، عده‌ای معتقدند این نگرانی‌ها بیش از اندازه بزرگ‌نمایی شده و هیچ خطر فوری از سوی AI ما را تهدید نمی‌کند. اما واقعاً کدام درست است؟
در این مقاله از زوم تک، پنج خطر اصلی مرتبط با هوش مصنوعی را بررسی می‌کنیم و توضیح می‌دهیم فناوری فعلی در هر یک از این زمینه‌ها چه وضعیتی دارد.

هوش مصنوعی چگونه می‌تواند خطرناک باشد؟

هوش مصنوعی هر روز پیشرفته‌تر و پیچیده‌تر می‌شود، و همین مسئله می‌تواند خطراتی از نوع خفیف (مانند از بین رفتن برخی مشاغل) تا خطرات شدید و حتی وجودی برای بشر ایجاد کند.
بحث درباره‌ی میزان خطر AI همچنان ادامه دارد، زیرا هنوز درک و توافق روشنی درباره‌ی ماهیت واقعی این فناوری وجود ندارد.

به‌طور کلی، AI می‌تواند از دو جهت خطرناک شود:

1. وقتی برای انجام کارهای مخرب برنامه‌ریزی شده باشد.
2. وقتی برای انجام کارهای مفید طراحی شده، اما در مسیر تحقق هدفش، اقدامات مخرب انجام دهد.

نمونه‌ی کلاسیک این موضوع، فرضیه‌ی معروفی به نام «بهینه‌ساز گیره‌کاغذ (Paperclip Maximizer)» است.
در این مثال فرضی، یک هوش مصنوعی فوق‌هوشمند مأموریت دارد تعداد گیره‌های کاغذ را در جهان به حداکثر برساند.
اگر این سیستم به اندازه‌ی کافی هوشمند باشد، ممکن است برای رسیدن به هدف خود، تمام منابع جهان را نابود کند!

اما نیازی نیست تا به هوش مصنوعی فوق‌هوشمند برسیم تا خطر را درک کنیم. فناوری‌های فعلی نیز خطراتی واقعی دارند.

در ادامه پنج خطر مهم و فعلی هوش مصنوعی را مرور می‌کنیم:

۱. خودکارسازی و از بین رفتن مشاغل

فرایند اتوماسیون سال‌هاست آغاز شده و اکنون با هوش مصنوعی سرعت بیشتری گرفته است. از کارخانه‌های تولید انبوه گرفته تا صندوق‌های سلف‌سرویس و خودروهای خودران.

براساس پژوهش مؤسسه‌ی Brookings در سال ۲۰۱۹، حدود ۳۶ میلیون شغل در سال‌های آینده در معرض خطر خودکارسازی قرار دارند.

علت ساده است:
سیستم‌های AI در بسیاری از کارها از انسان‌ها سریع‌تر، دقیق‌تر و ارزان‌تر هستند.
به‌عنوان مثال، AI امروزه در تشخیص تقلب هنری یا شناسایی تومورهای سرطانی از تصاویر رادیولوژی از متخصصان انسانی دقیق‌تر عمل می‌کند.

مشکل اینجاست که بسیاری از افرادی که شغل خود را از دست می‌دهند، مهارت یا تحصیلات لازم برای ورود به حوزه‌های جدید مرتبط با AI را ندارند.

ادامه‌ی این روند می‌تواند باعث افزایش نابرابری اجتماعی و حتی بحران‌های اقتصادی شود.

۲. امنیت و حریم خصوصی

در سال ۲۰۲۰، دولت بریتانیا گزارشی درباره‌ی «هوش مصنوعی و امنیت ملی» منتشر کرد که بر اهمیت استفاده از AI در دفاع سایبری تأکید داشت زیرا سرعت واکنش ماشین‌ها در برابر تهدیدات بیشتر از تصمیم‌گیری انسانی است.

اما در کنار این مزایا، خطر بزرگی نیز وجود دارد:
همزمان با رشد تهدیدات مبتنی بر AI، باید تدابیر دفاعی AI نیز پیشرفت کند.
در غیر این صورت، وارد دور باطل رقابت میان هکرهای هوشمند و سیستم‌های دفاعی هوشمند خواهیم شد.

همچنین باید توجه کنیم که خودِ سیستم‌های AI نیز باید در برابر نفوذ و حمله ایمن باشند.

از سوی دیگر، موضوع حریم خصوصی نیز در خطر است.
امروزه بیش از ۲.۵ میلیون ترابایت داده هر روز در اینترنت تولید می‌شود.
الگوریتم‌های هوش مصنوعی می‌توانند با تحلیل این داده‌ها، پروفایل‌های دقیق کاربران بسازند و تبلیغات را با دقتی بی‌سابقه هدف‌گذاری کنند.

فناوری تشخیص چهره نیز روزبه‌روز پیشرفته‌تر می‌شود.
دوربین‌ها اکنون قادرند در لحظه، افراد را شناسایی و حتی دسته‌بندی کنند.
در برخی کشورها، پلیس از عینک‌های هوشمند با نرم‌افزار تشخیص چهره برای شناسایی مجرمان استفاده می‌کند.

خطر اصلی زمانی است که این فناوری‌ها به‌دست دولت‌های سرکوبگر یا افراد بد نیت بیفتد.

۳. بدافزارهای هوش مصنوعی

هوش مصنوعی در زمینه‌ی هک، نفوذ و شکستن رمزنگاری نیز پیشرفت زیادی کرده است.
بدافزارهای جدید می‌توانند با استفاده از یادگیری ماشینی، رفتار خود را بهبود دهند و در طول زمان خطرناک‌تر شوند.

برای مثال، فناوری‌های هوشمندی مانند خودروهای خودران هدفی بالقوه برای این نوع حملات هستند.
نفوذ به این سیستم‌ها می‌تواند باعث تصادف، انسداد ترافیک یا حتی حملات سایبری گسترده شود.

با وابستگی روزافزون زندگی ما به فناوری‌های متصل به اینترنت، خطر این نوع حملات هر روز بیشتر می‌شود.
تنها راه‌حل واقعی این است که هوش مصنوعی مدافع (ضدبدافزار) سریع‌تر و هوشمندتر از هوش مصنوعی مهاجم باشد.

۴. سلاح‌های خودمختار

سلاح‌های خودکار (Autonomous Weapons) که توسط AI کنترل می‌شوند، دیگر یک خیال علمی نیستند  بلکه واقعاً وجود دارند.
صدها متخصص فناوری از سازمان ملل خواسته‌اند برای جلوگیری از خطرات این نوع سلاح‌ها اقدام کند.

در حال حاضر، ارتش‌های جهان از پهپادهای نظامی مجهز به الگوریتم‌های هوش مصنوعی استفاده می‌کنند.
با ترکیب این سیستم‌ها با فناوری تشخیص چهره، یک پهپاد می‌تواند فرد خاصی را تعقیب کند.

اما سؤال نگران‌کننده این است:
وقتی اجازه دهیم الگوریتم‌ها به‌جای انسان تصمیم‌های مرگ و زندگی بگیرند، چه اتفاقی می‌افتد؟

علاوه بر این، افراد عادی نیز می‌توانند فناوری‌های مصرفی مانند پهپادها را طوری تنظیم کنند که به‌صورت خودکار پرواز کنند یا مأموریت‌های خاصی انجام دهند.
چنین قابلیتی، اگر به دست افراد یا گروه‌های خطرناک بیفتد، امنیت روزمره‌ی مردم را تهدید می‌کند.

۵. دیپ‌فیک‌ها، اخبار جعلی و امنیت سیاسی

فناوری بازسازی چهره (Deepfake) روزبه‌روز واقعی‌تر می‌شود و تشخیص ویدیوهای جعلی از واقعی دشوارتر شده است.

این فناوری پیش از این چهره‌های مشهور و رهبران سیاسی را هدف قرار داده است، اما به‌زودی افراد عادی نیز در معرض سوءاستفاده قرار می‌گیرند.
برای مثال، کلاهبرداران اکنون می‌توانند با استفاده از تنها یک عکس از شبکه‌های اجتماعی، ویدیوهای جعلی برای اخاذی یا تخریب اعتبار افراد بسازند.

علاوه بر این، AI می‌تواند عکس‌ها را بازسازی کند، صداها را شبیه‌سازی کند و متون جعلی تولید کند.
این فناوری‌ها می‌توانند تبلیغات هدفمند و اخبار جعلی را در سطحی بسیار خطرناک گسترش دهند و بر ثبات سیاسی کشورها اثر بگذارند.

چگونه می‌توان خطرات هوش مصنوعی را کاهش داد؟

در کنار همه‌ی این خطرات، نباید فراموش کنیم که هوش مصنوعی پیشرفت‌های مثبتی هم به همراه دارد.
اما هر فناوری قدرتمندی، اگر به درستی کنترل نشود، می‌تواند به ابزار سوءاستفاده تبدیل شود.

برای کاهش خطرات AI، باید مشخص کنیم کجا باید از آن استفاده شود و کجا نباید.
افزایش پژوهش، شفافیت و گفت‌وگو درباره‌ی نحوه‌ی به‌کارگیری هوش مصنوعی، نخستین گام در مسیر مدیریت مسئولانه‌ی این فناوری است.