چت‌بات‌ های هوش مصنوعی چگونه ما را گمراه می‌کنند؟ یک عادت ساده برای تشخیص پاسخ‌ های نادرست

احتمالاً متوجه شده‌اید که چت‌بات‌های هوش مصنوعی (AI Chatbots) این روزها تا چه اندازه طبیعی و صمیمانه گفتگو می‌کنند. آن‌ها با خوش‌رویی سلام می‌کنند، نام شما را به خاطر می‌سپارند و در طول مکالمات درست مانند یک انسان واقعی پاسخ می‌دهند. با این حال، نتایج پژوهش جدید دانشمندان دانشگاه ایالتی پنسیلوانیا (Penn State) نشان می‌دهد که همین لحن دوستانه ممکن است به شکلی نامحسوس سطح هوشیاری شما را کاهش دهد و باعث شود هر پاسخی را که این ابزارها ارائه می‌دهند باور کنید؛ حتی زمانی که اطلاعات آن‌ها کاملاً اشتباه و نادرست است.

به گزارش بخش اخبار فناوری زوم تک به نقل از منبع خبر (Digital Trends)، لحن گرم و صمیمی‌تر چت‌بات‌ها می‌تواند سبب شود که ادعاهای کاذب و نادرست آن‌ها بسیار موجه‌تر و باورپذیرتر به نظر برسند. این مسئله باعث می‌شود کاربران بدون بررسی شواهد واقعی، خطاهای فاحش مدل‌های زبانی هوش مصنوعی را به سادگی بپذیرند.

چرا یک هوش مصنوعی پرحرف و خوش‌ برخورد فراتر از انتظار متقاعدکننده است؟

پژوهشگران برای اثبات این موضوع، یک دستیار سلامت جعلی مبتنی بر فناوری هوش مصنوعی طراحی کردند و از ۴۷۷ نفر خواستند با آن تعامل داشته باشند؛ بدون اینکه بدانند در طول گفتگو اطلاعات کاملاً اشتباهی دریافت خواهند کرد. این سیستم فرضی حتی ادعاهای عجیب و باورنکردنی مانند «اثربخشی بیشتر زنجبیل نسبت به شیمی‌درمانی برای درمان سرطان» را به کاربران ارائه می‌داد.

در این آزمایش، برخی از شرکت‌کنندگان با نسخه‌ای گرم و اهل گفتگو در تعامل بودند که جزئیات مکالمه را حفظ می‌کرد، شوخ‌طبعی و گپ‌وگفت‌های کوتاه روزمره به کار می‌برد و مانند یک انسان واقعی پاسخ‌ها را به آرامی تایپ می‌کرد. در طرف مقابل، به گروهی دیگر نسخه‌ای خشک، مکانیکی‌تر و با پاسخ‌های بی‌روح و فوری اختصاص یافت. نتیجه پژوهش کاملاً آشکار بود: افرادی که با نسخه صمیمی‌تر و خوش‌برخوردتر مکالمه داشتند، اعتماد بسیار بیشتری به پاسخ‌های سیستم نشان دادند؛ حتی زمانی که آن ابزار اطلاعاتی کاملاً غلط و ساختگی تولید می‌کرد.

پروفسور اس. شیام سوندار (S. Shyam Sundar)، سرپرست این تیم پژوهشی، علت این پدیده را به روشنی توضیح می‌دهد. تعامل با یک هوش مصنوعی مکالمه‌محور، سوگیری ذهنی موسوم به «مکاشفه منفی ماشینی» (Negative Machine Heuristic) را در انسان سرکوب می‌کند. این مفهوم به ذهنیت ذاتی ما بازمی‌گردد که ماشین‌ها را ابزارهایی خشک، مکانیکی و فاقد قدرت قضاوت و انعطاف‌پذیری انسانی می‌دانیم. زمانی که لحن صمیمانه چت‌بات این شکاکیت و بدبینی طبیعی را از میان می‌برد، کاربران دیگر به ارزیابی موشکافانه آنچه دریافت می‌کنند، نمی‌پردازند.

عادت طلایی برای مقابله با چت‌بات‌ های هوش مصنوعی که با اعتمادبه‌نفس دروغ می‌گویند

تیم تحقیقاتی همچنین این فرضیه را آزمایش کرد که آیا قرار دادن دکمه‌ای برای اعتبارسنجی و راستی‌آزمایی اطلاعات (Verification) می‌تواند به تصحیح این دیدگاه کمک کند یا خیر. نتایج به‌دست‌آمده بسیار قاطع بود: صرف مشاهده یک دکمه یا گزینه اعتبارسنجی در محیط چت‌بات، به‌تنهایی تقریباً هیچ تاثیری در رفتار کاربر نداشت. آنچه تفاوت واقعی را ایجاد می‌کرد، این بود که آیا فرد واقعاً روی آن دکمه کلیک می‌کند و ادعای مطرح‌شده را با شواهد و فکت‌های دنیای واقعی تطبیق می‌دهد یا خیر؛ چرا که اتکا به پاسخ‌های هوش مصنوعی بدون این ارزیابی جانبی، تردید اولیه فرد را به‌مرور به یک اطمینان کاذب تبدیل می‌کند.

به محض اینکه کاربران فرایند راستی‌آزمایی ادعاها را آغاز کردند، میزان اعتماد آن‌ها به چت‌بات هوش مصنوعی به شدت سقوط کرد و سطح اعتبار اطلاعات دریافتی را بسیار پایین‌تر تشخیص دادند. با این وجود، هنگامی که کاربران برای تصمیم‌گیری مخیر بودند، دقیقاً ۵۰ درصد از آنان تصمیم گرفتند داده‌ها را بررسی کنند و نیمی دیگر بررسی مستقل را به کلی نادیده گرفتند.

پروفسور سوندار پیام اصلی این مطالعه را در سه کلمه خلاصه می‌کند: «گفتگو کنید، اما راستی‌آزمایی کنید» (Chat, but verify). لذت بردن از یک مکالمه طبیعی با ابزارهای هوش مصنوعی هیچ مانعی ندارد، اما فرض کردن هر ادعایی به عنوان یک فکت علمی قطعی بدون ارزیابی آن، دامی خطرناک است که این مطالعه نسبت به آن هشدار می‌دهد؛ به ویژه در مواردی که کاربران از چت‌بات‌ها برای راستی‌آزمایی اخبار استفاده می‌کنند یا به سیستم‌هایی اعتماد می‌نمایند که بیش از تعهد به حقیقت، بر جلب تعامل و سرگرمی کاربر تمرکز دارند.