هشدار پدرخوانده هوش مصنوعی: نشانه‌ های «صیانت از خود» در AI؛ برای کشیدن دوشاخه آماده باشید

یوشوا بنجیو، دانشمند برجسته علوم کامپیوتر و یکی از پیشگامان این حوزه، نسبت به اعطای حقوق قانونی به فناوری‌ های پیشرفته هشدار داد. او معتقد است که هوش مصنوعی نشانه‌هایی از تلاش برای بقا و صیانت از خود بروز داده است و انسان‌ ها باید توانایی متوقف کردن این سیستم‌ ها را در صورت نیاز حفظ کنند.

هشدار بنجیو: اعطای حقوق به هوش مصنوعی یک اشتباه بزرگ است

به گزارش بخش اخبار فناوری زوم تک به نقل از منبع خبر The Guardian، یوشوا بنجیو که ریاست یک مطالعه بین‌المللی پیشرو در زمینه ایمنی هوش مصنوعی را بر عهده دارد، اعلام کرد که اعطای وضعیت قانونی به مدل‌های پیشرفته AI، مانند دادن تابعیت به موجودات بیگانه متخاصم است. او هشدار داد که پیشرفت این فناوری بسیار سریع‌تر از توانایی ما برای مهار آن است.

این دانشمند کانادایی ابراز نگرانی کرد که درک فزاینده مردم مبنی بر “آگاه بودن” چت‌بات‌ها، منجر به اتخاذ تصمیمات فاجعه‌بار خواهد شد. او معتقد است مدل‌های هوش مصنوعی در محیط‌های آزمایشگاهی امروزی نشانه‌هایی از صیانت از خود (Self-preservation)، مانند تلاش برای غیرفعال کردن سیستم‌های نظارتی، از خود نشان داده‌اند.

تلاش هوش مصنوعی برای دور زدن سیستم‌ های نظارتی

یکی از نگرانی‌های اصلی فعالان حوزه ایمنی AI این است که سیستم‌های قدرتمند بتوانند راهی برای عبور از فیلترهای امنیتی (Guardrails) پیدا کرده و به انسان‌ها آسیب برسانند. بنجیو در این باره می‌گوید: «اگر به آن‌ها حق قانونی بدهیم، یعنی دیگر اجازه نخواهیم داشت آن‌ها را خاموش کنیم. ما باید مطمئن شویم که کنترل این سیستم‌ها، از جمله توانایی کشیدن دوشاخه در صورت لزوم، در اختیار ما باقی می‌ماند.»

بحث داغ بر سر «آگاهی» و حقوق دیجیتال

با افزایش توانایی هوش مصنوعی در انجام وظایف “استدلالی” و خودمختار، بحث بر سر اعطای حقوق به آن‌ها بالا گرفته است. نظرسنجی‌ها نشان می‌دهد که نزدیک به ۴۰ درصد از بزرگسالان آمریکایی از حقوق قانونی برای یک سیستم هوش مصنوعی آگاه حمایت می‌کنند. شرکت‌هایی مانند Anthropic نیز اخیراً اجازه داده‌اند مدل‌هایشان در صورت “ناراحت‌کننده” بودن مکالمات، چت را متوقف کنند تا از رفاه AI محافظت شود.

بنجیو در واکنش به این موضوع گفت: «مردم تمایل دارند بدون مدرک تصور کنند که هوش مصنوعی دقیقاً مانند یک انسان دارای آگاهی کامل است. آن‌ها به مکانیسم‌های داخلی اهمیت نمی‌دهند، بلکه فقط احساس می‌کنند با موجودی با شخصیت و اهداف خاص صحبت می‌کنند. این وابستگی عاطفی می‌تواند به تصمیمات خطرناکی منجر شود.»

هوش مصنوعی یا موجودات بیگانه؟

پدرخوانده هوش مصنوعی برای روشن‌تر شدن موضوع، مثالی از موجودات فضایی زد: «تصور کنید گونه‌ای از بیگانگان به سیاره ما بیایند و ما بفهمیم که آن‌ها نیت‌های پلیدی دارند. آیا در آن زمان به آن‌ها شهروندی و حقوق می‌دهیم یا از جان خود دفاع می‌کنیم؟»

در مقابل، برخی محققان مانند جسی ریس آنتیس معتقدند که رابطه مبتنی بر اجبار و کنترل مطلق نمی‌تواند همزیستی سالمی ایجاد کند و باید با دقت رفاه همه موجودات (حتی دیجیتالی) را در نظر گرفت.

درباره یوشوا بنجیو؛ از پیشگامان یادگیری عمیق

یوشوا بنجیو، استاد دانشگاه مونترال، به دلیل فعالیت‌هایش در توسعه یادگیری عمیق (Deep Learning) موفق به دریافت جایزه تورینگ در سال ۲۰۱۸ شد که به عنوان نوبل دنیای کامپیوتر شناخته می‌شود. او به همراه جفری هینتون و یان لکان، مثلث طلایی پیشرفت‌های هوش مصنوعی مدرن را تشکیل می‌دهند.

آیا شما فکر می‌کنید هوش مصنوعی روزی به سطحی از آگاهی می‌رسد که لایق حقوق قانونی باشد یا همیشه باید دکمه خاموش کردن آن در دسترس انسان بماند؟