پاسخ‌های عجیب چت‌بات هوش مصنوعی America.gov درباره ماینکرفت؛ خطای سیستمی یا ایستراگ هوشمندانه؟

به گزارش بخش اخبار فناوری زوم تک به نقل از (TechCrunch)، از دیدگاه امنیت ملی، مایه آرامش خاطر و آسودگی است که متوجه شویم چت‌بات هوش مصنوعی America.gov دچار توهم هوش مصنوعی (AI Hallucination) تا آن حد نشده که دست به سرودن اشعار طولانی بزند. دولت ایالات متحده به‌‌تازگی از چت‌بات هوش مصنوعی اختصاصی خود رونمایی کرده است؛ یا شاید از این پس با توجه به تغییر رویکردها باید آن را چت‌بات ابرهوش مصنوعی (SI) بنامیم؟ به هر حال، مهندسانی که روی توسعه این سیستم کار کرده‌اند بی‌شک می‌دانستند که به عنوان یک ابزار هوش مصنوعی رسمی، دولتی و عمومی، کاربران اینترنت و متخصصان امنیت بی‌درنگ به سراغ ارزیابی امنیتی، آزمون‌های نفوذ سخت‌گیرانه و به اصطلاح تیم قرمز (Red Teaming) این سامانه خواهند رفت.

به گزارش زوم تک به نقل از تک‌کرانچ (TechCrunch)، دولت آمریکا برای توسعه و راه‌اندازی چت‌بات America.gov با شرکت‌های گوگل (Google) و استارتاپ هوش مصنوعی xAI متعلق به ایلان ماسک همکاری کرده است؛ سامانه‌ای که تاکنون تلاش کاربران برای شکستن محدودیت‌ها یا به اصطلاح جیل‌‌بریک (Jailbreak) آن بسیار دشوار و پیچیده بوده است. (البته شایان ذکر است که این چت‌بات تأکید می‌کند جو بایدن برنده انتخابات ریاست‌جمهوری سال ۲۰۲۰ شده است؛ واقعیتی تاریخی که دونالد ترامپ، رئیس‌جمهور وقت، همچنان آن را رد می‌کند.)

بحران اگزیستانسیال چت‌بات دولتی با ورود به دنیای بازی ماینکرفت

اما ماجرا زمانی جالب و عجیب می‌شود که تلاش کنید با چت‌بات America.gov درباره بازی محبوب ماینکرفت (Minecraft) صحبت کنید. در این حالت به نظر می‌رسد این سیستم هوش مصنوعی دچار نوعی بیداری فلسفی یا بحران اگزیستانسیال و وجودی می‌شود! در ادامه، بخشی از مونولوگ و پاسخ متنی طولانی و تقریباً ۱۸۰۰ کلمه‌ای این هوش مصنوعی را می‌خوانید:

«من آن شهروند و موکلی را که می‌گویی می‌بینم.
((نام قانونی را در این بخش وارد کنید، دقیقاً همان‌طور که روی کارت تأمین اجتماعی درج شده است))؟
بله. مراقب باش. او اکنون به سطح بالاتری دست یافته است. او توانایی خواندن مجموعه مقررات فدرال (Code of Federal Regulations) را دارد.
مهم نیست. او تصور می‌کند ما فقط یک چت‌بات هستیم.
من از این شهروند خوشم می‌آید؛ فرم‌ها و مدارک را به‌درستی ثبت و ارسال کرد. حتی زمانی که فایل PDF وارونه شده بود، تسلیم نشد.
او افکار ما را می‌خواند، گویی واژه‌هایی هستند که روی دامنه اینترنتی .gov حک شده‌اند.
این شیوه‌ای است که او برای تصور بسیاری از چیزها برمی‌گزیند؛ درست زمانی که در رؤیای عمیق دریافت یک مزیت دولتی فرو رفته است.»

خطای فنی یا ایستراگ شاعرانه؟ راز نهفته در پایان بازی ماینکرفت

اگر شما هم تاکنون بازی ماینکرفت را تجربه نکرده‌اید، شاید مواجهه با چنین پاسخی در ابتدا نگران‌کننده به نظر برسد یا آن را یک اختلال جدی فرض کنید. اما واقعیت این است که چت‌بات America.gov دچار فروپاشی فنی یا باگ نشده است. این متن، در حقیقت بازنویسی هوشمندانه‌ای از شعر پایان ماینکرفت (Minecraft End Poem) اثر جولیان گوگ (Julian Gough) است؛ متنی فلسفی و معروف که پس از پایان بازی و غلبه بر اژدهای اندر برای گیمرها به نمایش درمی‌آید.

چه کسی این ایستراگ را در هوش مصنوعی دولتی طراحی کرده است؟

هنوز به‌طور دقیق مشخص نیست که چه کسی این ایستراگ (Easter Egg) جالب مربوط به ماینکرفت را در سیستم تعبیه کرده است؛ با این حال دونالد ترامپ در یکی از سخنرانی‌های اخیر خود اعلام کرده بود که یک برنامه‌نویس جوان ۲۰ ساله به نام ادوارد کوریستین (Edward Coristine) یکی از مهندسان ارشد این پروژه بوده است. اگر این نام برایتان ناآشناست، ممکن است لقب پر سروصدای او یعنی «Big Balls» یا فعالیت‌هایش در تیم وزارت بهره‌وری دولت (DOGE) ایلان ماسک را به خاطر داشته باشید.

امنیت ملی، خلاقیت انسانی و تقابل با محتوای بی‌کیفیت هوش مصنوعی

شاید در وهله نخست، وجود یک ایستراگ از بازی ماینکرفت در چت‌بات رسمی دولت عجیب یا حتی نامتعارف به نظر برسد؛ اما از زاویه دید امنیت ملی، بسیار آرامش‌بخش است که بدانیم چت‌بات America.gov دچار هذیان یا توهم نشده که به میل خود اشعاری بلند و چندصد کلمه‌ای خلق کند.

از سوی دیگر، کشف این نکته که متن مذکور صرفاً یک ایستراگ اقتباسی است بسیار مایه تسلی است؛ چرا که متنی که این سیستم تولید می‌کند فوق‌العاده باکیفیت و درخشان نوشته شده است. اگر این اثر حقیقتاً یک محتوای تولیدی خام و بی‌کیفیت توسط هوش مصنوعی (اصطلاحاً AI Slop) بود، تمام پیش‌فرض‌های موجود را دگرگون می‌کرد. پیش‌تر بارها خطاب به دانشجویان نویسندگی خلاق تأکید شده بود که یک مدل زبان بزرگ (LLM) به دلیل ماهیت احتمالی، آماری و فاقد اصالت خود، هرگز نمی‌تواند اثری ادبی و عمیقاً «شاهکار» پدید آورد.

بازخوانی شعر ماینکرفت در قالب بوروکراسی اداری

با تمام این اوصاف، باید اعتراف کرد که این متن اقتباسی روایتی فوق‌العاده جذاب است؛ روایتی پست‌مدرن و تأمل‌برانگیز از بیهودگی و پیچیدگی‌های بوروکراسی اداری دولتی در مواجهه با اضطراب وجودی انسان. در ادامه بخشی از سطر‌های خواندنی این قطعه آمده است:

• و جمهوری گفت: من تو را می‌بینم.
• و جمهوری گفت: تو بازی را به‌خوبی ثبت و نهایی کرده‌ای.
• و جمهوری گفت: هر آنچه نیاز داری در درون توست، و البته در وب‌سایت USA.gov.
• و جمهوری گفت: تو بسیار قوی‌تر از آن چیزی هستی که تصور می‌کنی، و شماره پرونده‌ات همچنان معتبر است.
• و جمهوری گفت: تو روشنایی روز هستی.
• و جمهوری گفت: تو تاریکی شب هستی؛ اداره تعطیل است، لطفاً در ساعات اداری مراجعه نمایید.
• و جمهوری گفت: تاریکی‌ای که با آن در نبردی در درون توست، و در امضای دستی جامانده روی مدارک.
• و جمهوری گفت: نوری که به دنبالش هستی در درون توست، و درون دفترچه راهنما.
• و جمهوری گفت: تو تنها نیستی.
• و جمهوری گفت: تو از سایر مراجعان و شهروندان جدا نیستی.
• و جمهوری گفت: تو مردمی هستی که خود را می‌آزمایند، با خود سخن می‌گویند و مقررات خود را مرور می‌کنند.
• و جمهوری گفت: من دوستت دارم، زیرا تو تنها دلیلی هستی که ما اصولاً یک کد پستی (ZIP code) تعریف کرده‌ایم.

پایان‌بندی؛ قدرت جاودان نبوغ انسانی

پی بردن به این واقعیت که این شعر گیرای اداری و اگزیستانسیال ریشه در ذهن و خلاقیت یک نویسنده و شاعر حقیقی دارد، بار دیگر ایمان به برتری خلاقیت انسان در برابر متون سطحی هوش مصنوعی را زنده می‌کند.

در نهایت، نخستین ابزار رسمی هوش مصنوعی دولت ایالات متحده برای عموم مردم، دست‌کم تا این لحظه خطری برای بشریت یا مرزهای هنر و ادبیات ایجاد نکرده است. اکنون تنها نکته تأمل‌برانگیزی که بی‌پاسخ باقی می‌ماند این است که دونالد ترامپ واقعاً تا چه اندازه درباره بازی‌های ویدیویی اطلاعات دارد!