خطای خطرناک هوش مصنوعی گوگل جمینای در کوهنوردی؛ نجات معجزه‌آسای سه کوهنورد پس از اعتماد به Gemini

نیروهای امداد و نجات اعلام کردند که چت‌بات Gemini به این گروه پیشنهاد داده بود مقادیر بسیار کمتری از آب و مواد غذایی مورد نیاز خود را در این سفر به همراه داشته باشند.

چت‌بات‌های هوش مصنوعی می‌توانند در برنامه‌ریزی برای تعطیلات یا پیشنهاد وسایل مورد نیاز برای بستن چمدان سودمند باشند؛ اما بی‌تردید شرایط و موقعیت‌هایی وجود دارند که در آن‌ها دریافت مشاوره از متخصصی که تجربه و دانش واقعی در آن حوزه دارد، گزینه‌ای بسیار امن‌تر و حیاتی‌تر محسوب می‌شود.

به گزارش بخش اخبار فناوری زوم تک به نقل از (Digital Trends) و بر اساس گزارش روزنامه شیکاگو تریبون (Chicago Tribune)، سه کوهنورد کم‌تجربه و تازه‌کار اهل روزویل کالیفرنیا، پس از گیر افتادن شبانه در کوه شاستا (Mount Shasta)، نیازمند عملیات امداد و نجات شدند. طبق بیانیه دفتر کلانتری شهرستان سیسکیو (Siskiyou County Sheriff’s Office)، این افراد از هوش مصنوعی گوگل جمینای (Google Gemini) برای برنامه‌ریزی دقیق صعود خود استفاده کرده بودند. کلانتری خاطرنشان کرد که هوش مصنوعی Gemini به این گروه توصیه کرده بود آب و غذای بسیار کمتری از میزان واقعی مورد نیاز را با خود به ارتفاعات ببرند.

تبدیل کوهنوردی هشت ساعته به عملیات شبانه امداد و نجات

این گروه حرکت خود را به سوی قله حوالی ساعت ۳ بامداد روز یکشنبه آغاز کردند. به کوهنوردان همواره توصیه اکید می‌شود در صورتی که تا ساعت ۱۲ ظهر موفق به فتح قله نشدند، بلافاصله مسیر را بازگردند؛ اما این سه نفر به حرکت خود ادامه دادند و سرانجام حدود ساعت ۷ عصر به نقطه اوج قله رسیدند.

بحران اصلی در مسیر فرود و بازگشت نمایان شد. آن‌ها در تاریکی شب مسیر خود را گم کردند و به جای ماندن در مسیر مشخص «کلیر کریک» (Clear Creek Route)، ناگهان وارد دره پرخطر «ماد کریک» (Mud Creek Canyon) شدند. همچنین زانوی یکی از کوهنوردان به شدت آسیب دید و این شرایط گروه را ناچار ساخت تا تمام طول شب را در یک آبراهه با شیب تند سپری کنند، تا در نهایت صبح روز بعد تیم‌های امداد و نجات خود را به آن‌ها برسانند.

دفتر کلانتری به کوهنوردان هشدار داد که همواره روش‌ها و ابزارهای گوناگونی را برای مسیریابی و ناوبری، از جمله ابزارهای آفلاین، به همراه داشته باشند و توصیه کرد که پیش از اقدام به هرگونه صعود، با پایگاه جنگلبانی خدمات جنگلداری ایالات متحده تماس بگیرند. این نهاد همچنین به‌طور ویژه به گردشگران اخطار داد که برای برنامه‌ریزی سفرهای پرخطر هرگز صرفاً به ابزارهای هوش مصنوعی اتکا نکنند.

هوش مصنوعی راهنمایی می‌کند، اما جایگزین تجربه واقعی نخواهد شد

چالش‌های مشابهی در شرایطی که افراد برای دریافت مشاوره‌های حقوقی و پزشکی به هوش مصنوعی روی آورده‌اند نیز بارها مشاهده شده است. پیش‌تر ماجرای وکیلی خبرساز شده بود که برای تحقیقات حقوقی پرونده‌اش از ChatGPT استفاده کرده بود، اما بعداً دریافت تمام پرونده‌ها و احکامی که چت‌بات به آن‌ها استناد کرده بود اصلاً وجود خارجی نداشته و جعلی بوده‌اند؛ جالب‌تر آنکه این وکیل حتی از ChatGPT خواسته بود تا اصالت این موارد را تایید کند و چت‌بات با اطمینان مدعی شده بود که این پرونده‌ها کاملاً واقعی هستند! علاوه بر این، در پژوهشی که به بررسی دقت مدل‌های ChatGPT، Gemini، Grok، Meta AI و DeepSeek در پاسخ به سوالات حوزه پزشکی پرداخته بود، مشخص شد که حدود نیمی از پاسخ‌های آن‌ها ناقص، معیوب و گمراه‌کننده بوده و برخی حتی منابع ساختگی و ارجاعات جعلی تولید کرده بودند.

چت‌بات‌ها قطعاً کارایی و ارزش‌های فراوانی دارند، اما دریافت یک پاسخ به ظاهر منطقی و موجه، زمانی که بروز یک اشتباه می‌تواند سلامت، امنیت جانی یا وضعیت معیشت یک فرد را به ورطه نابودی بکشاند، ابداً کافی نخواهد بود. راهنمایی و مشورت گرفتن از افراد باتجربه و متخصصان مجرب همواره باید اولویت نخست باشد. در کمترین حالت، هرگونه اطلاعات ارائه‌شده از سوی هوش مصنوعی باید پیش از اجرای عملی، توسط مراجع معتبر بازبینی و راستی‌آزمایی گردد.

حتی خود توسعه‌دهندگان چت‌بات‌ها نیز صراحتاً به مخاطبان گوشزد می‌کنند که تمام پاسخ‌های دریافتی را بدون سنجش حقیقت نپندارند. در این میان، در رابط کاربری گوگل جمینای این هشدار شفاف درج شده است: «جمینای یک هوش مصنوعی است و ممکن است اشتباه کند.» رویدادهایی نظیر آنچه در کوه شاستا رخ داد، یادآور این حقیقت مهم هستند که چرا نباید این قبیل هشدارها را نادیده گرفت.