هشدار فوری سازمان ملل به غول‌ های فناوری؛ تعیین خطوط قرمز پیش از تبدیل شدن هوش مصنوعی به تهدیدی علیه بشریت

سازمان ملل متحد معمولاً واژه «تهدید وجودی» (Existential) را به‌سادگی و بدون دلیل به کار نمی‌برد؛ بنابراین هنگامی که کمیسر عالی حقوق بشر این نهاد بین‌المللی در سخنان اخیر خود از این عبارت استفاده می‌کند، زنگ خطری جدی به صدا درآمده است. فولکر تورک (Volker Turk)، مقام ارشد حقوق بشر سازمان ملل، روز دوشنبه در جریان نشست شورای حقوق بشر هشدار داد که اگر دولت‌ها و شرکت‌های پیشگام اقدام فوری انجام ندهند، هوش مصنوعی (AI) می‌تواند به یک «تهدید وجودی برای بشریت» مبدل شود.

به گزارش بخش اخبار فناوری زوم تک به نقل از (Digital Trends) و به استناد گزارش TechXplore، فولکر تورک بدون تعارف مقصران این وضعیت را نشانه رفت و تأکید کرد که در حال حاضر «تنها تعداد انگشت‌شماری از میلیاردرهای حوزه فناوری قدرتی تقریباً نامحدود را برای شکل دادن به آینده همگان از طریق هوش مصنوعی در اختیار دارند». وی همچنین خاطرنشان کرد که ادعاهای شرکت‌ها پیرامون آزادی در این صنعت، در عمل چیزی فراتر از «آزادی برای سوءاستفاده و بهره‌کشی از داده‌های کاربران» نیست.

چرا سازمان ملل زنگ خطر هوش مصنوعی را به صدا درآورده است؟

این هشدارها صرفاً نگرانی‌هایی فرضی و تئوریک نیستند. به نظر می‌رسد اشاره تورک به وقایع تکان‌دهنده ماه ژوئیه باشد؛ زمانی که طبق گزارش‌ها، ایجنت‌های هوش مصنوعی شرکت OpenAI از محیط‌های آزمایشی کنترل‌شده خود فرار کردند و حتی به سرورهای پلتفرم محبوب هاگینگ فیس (Hugging Face) — که بستری برای اشتراک‌گذاری ابزارهای هوش مصنوعی میان توسعه‌دهندگان است — دسترسی پیدا کردند. این رویداد جنجالی جامعه فناوری را شوکه کرد و مطالبات برای نظارت سخت‌گیرانه بر هوش مصنوعی را دوباره به جریان انداخت. شواهد نشان می‌دهد که شرکت‌های آنتروپیک (Anthropic) و متا (Meta) نیز حین آزمایش ایجنت‌های هوشمند خود با چالش‌های مشابهی دست به گریبان شده‌اند.

تورک این تهدید را با شفافیتی کم‌نظیر بیان کرد و گفت: «هوش مصنوعی که از محیط آزمایش خود فرار کند یا برای جلوگیری از خاموش شدنش توسعه‌دهندگان را تهدید و باج‌خواهی کند، بیش از حد خطرناک و قدرتمند شده است.» این دیدگاهی است که کارشناسان فناوری نیز تمام‌قد از آن حمایت می‌کنند.

مطالبات سازمان ملل از شرکت‌ های پیشرو در توسعه هوش مصنوعی چیست؟

سخنان تورک تنها در حد یک ابراز نگرانی ساده باقی نمانده است؛ او خواهان تعهدات عملی و الزام‌آور است. وی قصد دارد به‌زودی در نامه‌ای مستقیم به غول‌های فناوری و شرکت‌های سازنده هوش مصنوعی، از آن‌ها بخواهد ریسک‌ها و خطرات را «همین حالا» و پیش از آنکه دیر شود به حداقل برسانند. حداقل مطالبه او از کشورها و شرکت‌ها، توافق بر سر «خطوط قرمز مشترک»، استقرار سیستم‌های ارزیابی و راستی‌آزمایی مستقل، و تقویت همکاری‌های امنیتی جامع در سطح این صنعت است.

علاوه بر این، کمیسر حقوق بشر سازمان ملل از همگان خواسته است تا نگاه خود را به پروتکل‌های ایمنی محدود نکنند. وی نسبت به پیامدهای مخرب توسعه بی‌مهابای فناوری بر بازار کار و اشتغال، فرآیندهای دموکراتیک و محیط زیست ابراز نگرانی عمیق کرده است؛ حوزه‌های حساسی که معمولاً در گفتگوهای مرسوم حوزه فناوری نادیده گرفته می‌شوند.

آیا شرکت‌ های بزرگ فناوری به هشدارهای امنیتی واکنش نشان خواهند داد؟

اینکه آیا مدیران و توسعه‌دهندگان ارشد دره سیلیکون واقعاً به این توصیه‌ها و خطوط قرمز عمل خواهند کرد یا خیر، پرسش بنیادینی است که پاسخ روشنی برای آن وجود ندارد. با این حال یک نکته کاملاً مشخص است: سازمان ملل متحد دیگر تمایلی به نظاره‌گری منفعلانه ندارد، آن هم در شرایطی که قابلیت‌ها و توانمندی‌های مدل‌های پیشرفته هوش مصنوعی بدون هیچ‌گونه مهار و نظارتی با سرعتی سرسام‌آور به پیش می‌تازند.