دردسر تازه برای AI Overviews ؛ گوگل هیولاهای خیالی را واقعی معرفی می کند!

به گزارش زوم تک، قابلیت AI Overviews گوگل بار دیگر به دلیل ارائه اطلاعات نادرست خبرساز شده است. گزارش های جدید نشان می دهد این سیستم هوش مصنوعی برخی موجودات خیالی متعلق به پروژه داستانی SCP Foundation را به عنوان پدیده هایی واقعی و مستند توصیف کرده است و همین موضوع نگرانی های تازه ای درباره دقت پاسخ های هوش مصنوعی گوگل ایجاد کرده است.

هوش مصنوعی گوگل داستان های ترسناک را واقعی تصور می کند

بر اساس گزارش ها، AI Overviews در پاسخ به برخی جستجوها موجودات تخیلی و هیولاهای ساخته شده توسط کاربران در مجموعه داستانی SCP Foundation را به عنوان موارد واقعی معرفی کرده و حتی به اسناد و توضیحاتی اشاره کرده که کاملا ساختگی هستند.

در برخی موارد، پاسخ های هوش مصنوعی گوگل بدون اشاره به ماهیت داستانی این محتوا، اطلاعاتی را ارائه داده که به نظر می رسد مربوط به پرونده های واقعی یا گزارش های رسمی باشند.

مشکل قدیمی توهم هوش مصنوعی همچنان ادامه دارد

این اتفاق نمونه دیگری از پدیده موسوم به «توهم هوش مصنوعی» است؛ حالتی که مدل های زبانی اطلاعات نادرست یا ساختگی را با اطمینان کامل ارائه می کنند. گوگل پیش از این نیز به دلیل پاسخ های عجیب AI Overviews، از توصیه به خوردن سنگ گرفته تا استفاده از چسب روی پیتزا، با انتقادهای گسترده روبه رو شده بود.

پروژه SCP Foundation چیست؟

SCP Foundation یک پروژه داستانی و مشارکتی در اینترنت است که هزاران داستان ترسناک و علمی تخیلی درباره موجودات، اشیا و پدیده های فراطبیعی را در بر می گیرد. تمام محتوای این مجموعه تخیلی است، اما ظاهری شبیه به گزارش های رسمی و اسناد طبقه بندی شده دارد و همین موضوع می تواند باعث سردرگمی سیستم های هوش مصنوعی شود.

نگرانی ها درباره آینده جستجوی مبتنی بر هوش مصنوعی

با گسترش استفاده از AI Overviews در نتایج جستجوی گوگل، کارشناسان هشدار می دهند که خطاهای این سیستم می تواند کاربران را با اطلاعات نادرست مواجه کند. منتقدان معتقدند هرچند هوش مصنوعی سرعت دسترسی به اطلاعات را افزایش داده، اما همچنان نمی تواند جایگزین کامل منابع معتبر و بررسی انسانی شود.

این اتفاق بار دیگر نشان می دهد که با وجود پیشرفت سریع هوش مصنوعی، دقت و اعتبار اطلاعات تولید شده همچنان یکی از بزرگ ترین چالش های این فناوری محسوب می شود.