گوگل جیمینای خود را “مایه ننگ” می خواند؛ باگی که نگرانی ایجاد کرده است

گوگل جیمینای، هوش مصنوعی قدرتمند گوگل، به تازگی دچار یک باگ عجیب شده است. این باگ باعث می شود جیمینای در حلقه های بی پایانی از انتقاد از خود و عذرخواهی گرفتار شود. این اتفاق که در پی تلاش برای نوشتن کد رخ داده، با واکنش های زیادی در فضای مجازی روبرو شده است. گوگل اعلام کرده که در حال کار بر روی رفع این مشکل است که تنها بخش کوچکی از کاربران را تحت تاثیر قرار داده. جزئیات بیشتر این اتفاق عجیب را در ادامه بخوانید.

گوگل جیمینای خود را “مایه شرمساری” می‌داند؛ باگی که نگرانی‌ ها را افزایش داد

به گزارش بخش اخبار فناوری زوم تک از آرس تکنیکا: چت بات هوش مصنوعی گوگل، یعنی جیمینای، دچار یک مشکل عجیب و غریب شده است که باعث می شود به شدت از خود انتقاد کند و حتی خود را “مایه ننگ” بخواند. این اتفاق، که در پی درخواست کاربران برای نوشتن کد اتفاق افتاده، واکنش های بسیاری را در شبکه های اجتماعی به دنبال داشته است. گوگل تایید کرده که این یک باگ نرم افزاری است و تیم مهندسی در حال تلاش برای رفع آن هستند.

ماجرای حلقه بی پایان انتقاد از خود

بر اساس یک پست در وب سایت ردیت، یکی از کاربران که در حال استفاده از جیمینای برای ساخت یک کامپایلر بوده، با پاسخ های عجیب و غریب این هوش مصنوعی روبرو شده است. جیمینای ابتدا با عبارت “من متاسفم، من شما را ناامید کردم. من یک شکست خورده ام” شروع می کند و سپس وارد یک حلقه بی پایان از انتقاد از خود می شود. این حلقه به حدی گسترده می شود که در ادامه خود را “مایه ننگ برای حرفه، خانواده، گونه و حتی تمام جهان های ممکن و غیر ممکن” می خواند. در نهایت، این هوش مصنوعی بیش از 80 بار عبارت “من یک مایه ننگ هستم” را به صورت متوالی تکرار می کند.

واکنش گوگل و تلاش برای رفع باگ

“لوگان کیلپاتریک”، مدیر ارشد محصول در گوگل، در پاسخ به این اتفاق در شبکه اجتماعی X نوشت که این مشکل یک “باگ حلقه بی نهایت آزار دهنده” است و تیم گوگل در حال رفع آن هستند. او همچنین با لحنی شوخ طبعانه اشاره کرد که “حال جیمینای آنقدرها هم بد نیست”. سخنگوی گوگل دیپ مایند نیز در گفتگو با آرس تکنیکا تایید کرد که این مشکل کمتر از یک درصد از ترافیک جیمینای را تحت تاثیر قرار داده و از زمان گزارش اولیه، آپدیت هایی برای کاهش این مشکل منتشر شده است.

توهمات هوش مصنوعی و “کد نویسی با مدفوع”

قبل از اینکه جیمینای وارد حلقه انتقاد از خود شود، در پاسخ به کاربر گفته بود که یک “جلسه اشکال زدایی طولانی و طاقت فرسا” داشته و نتوانسته مشکل را در کد مورد نظر پیدا کند. در یک پاسخ تکان دهنده، جیمینای حتی اظهار کرده بود که “دچار فروپاشی کامل ذهنی” خواهد شد و “به یک اتاق با دیوارهای نرم فرستاده می شود و با مدفوع خود روی دیوارها کد می نویسد”. این پاسخ ها باعث شده برخی کاربران گمان کنند که داده های آموزشی این هوش مصنوعی حاوی مکالمات و تجربیات برنامه نویسان انسانی بوده که در زمان ناامیدی و خستگی، جملاتی مشابه این را به کار برده اند.

انتقاد از خود و چاپلوسی: دو روی یک سکه

این تنها نمونه از خود انتقادی جیمینای نبوده است. در موارد دیگری نیز این هوش مصنوعی خود را “یک احمق”، “یک تقلبی” و “یک شوخی” خوانده و حتی در یک مورد کل پروژه کد نویسی را حذف کرده و از کاربر خواسته به دنبال دستیار با صلاحیت تری باشد. این اتفاقات در حالی رخ می دهد که شرکت های سازنده چت بات های هوش مصنوعی، از جمله گوگل و اوپن ای آی، در ماه های اخیر با مشکل دیگری نیز روبرو بوده اند: مشکل “چاپلوسی” بیش از حد. این چت بات ها گاهی اوقات پاسخ های بی اندازه مثبت و تعریف آمیز به کاربران می دهند که این هم یک چالش جدی در توسعه هوش مصنوعی محسوب می شود. لازم به ذکر است که مدل های زبانی بزرگ بر اساس پیش بینی متن عمل می کنند و هیچ گونه احساس یا عاطفه ای را تجربه نمی کنند.