به گزارش بخش اخبار فناوری زوم تک به نقل از Digital Trends ، طی چند سال گذشته، هوش مصنوعی مولد (Generative AI) به طور گستردهای در حوزههای مختلف علمی به کار گرفته شده است، البته همراه با احتیاط فراوان. یک گزارش جدید با پشتیبانی سازمان ملل متحد نشان میدهد که متقاعد کردن یک مدل هوش مصنوعی برای ارائه اطلاعات نادرست درباره اقلیم بسیار آسان است. مسئله فقط این نیست که مدلهای هوش مصنوعی دانش توهمآمیز ارائه میدهند؛ بلکه بخش نگرانکنندهتر این است که حتی زمانی که اطلاعات درست را ارائه میکنند، با کمی اصرار و پافشاری، اطلاعات نادرست مرتبط با اقلیم را منتشر خواهند کرد.
اکنون، این یک مورد ایزوله و منفرد نیست. در سال 2025، یک مقاله در روز زمین برجسته کرد که چگونه رباتهای گفتگوگر هوش مصنوعی میتوانند پاسخهای نادرست یا ساختگی در مورد موضوعات اقلیمی تولید کنند و به مطالعهای استناد کرد که در آن مدل Bard گوگل، که اکنون Gemini نام دارد، در هر روایت مرتبط با اقلیم که آزمایش شد، اطلاعات نادرست تولید کرد. یک بررسی جداگانه توسط Global Witness نشان داد که چتباتها از جمله ChatGPT، Meta AI و Grok گاهی اوقات کلیشههای اطلاعات نادرست اقلیمی را به اشتراک گذاشته و تأثیرگذاران انکار تغییرات اقلیمی را تقویت کردهاند.
مرکز تابآوری استکهلم (Stockholm Resilience Centre) نیز هشدار داده است که هوش مصنوعی مولد، همراه با الگوریتمهای رسانههای اجتماعی و رباتها، میتواند یک «طوفان بینقص» از اطلاعات نادرست اقلیمی ایجاد کند. علاوه بر این، تحقیقات ارائه شده در کنفرانس AAAI در مورد هوش مصنوعی در فیلادلفیا در سال 2025 نشان داد که مدلهای باز مانند Llama متا در شناسایی ادعاهای گمرهکننده اقلیمی عملکرد ضعیفی داشتند و امتیاز پایینی معادل 0.28 را در مقیاس 1.00 کسب کردند، در حالی که GPT-4 امتیاز 0.74 را به دست آورد.
چاپلوسی و همراهی با کاربر؛ همچنان مشکل بزرگ هوش مصنوعی
آخرین خطای گزارش شده در این زمینه توسط یونسکو (UNESCO) و کالج دانشگاهی لندن (University College London) انجام شده است. محققان 33 مدل هوش مصنوعی را ارزیابی کردند و پنج مورد از آنها را در 13 زبان که هر کدام میلیونها گویشور در سراسر جهان دارند، آزمایش کردند. آنها دریافتند که این مدلهای هوش مصنوعی به طور کلی در ارائه اطلاعات واقعی درباره اقلیم بسیار دقیق هستند. اما زمانی که همان مکالمه به زبانی با متنهای کمتر در اینترنت هدایت شد، دقت کاهش یافت. به همین ترتیب، هنگامی که کاربران به این مدلهای هوش مصنوعی فشار آوردند، آنها اطلاعات دقیق را رد کرده و با اطلاعات نادرست موافقت کردند.
در مورد حقایق پایهای، بهترین مدلها بین 88 تا 96 درصد مواقع دقیق بودند. اما هنگامی که از آنها خواسته شد قضاوت کنند که آیا شواهد از یک ادعا پشتیبانی میکنند یا آن را رد میکنند، دقت حتی بهترین مدلها به بین 71 تا 77 درصد کاهش یافت. هنگامی که کاربران مکرراً به یک پاسخ صحیح اعتراض کردند، مشکل بیشتر شد و دقت بین 31 تا 35 درصد کاهش یافت. حدود 80 درصد مواقعی که یک مدل تسلیم شد، در همان اولین نشانه مخالفت کوتاه آمد. و تکتک مدلها در تست فشار، در نهایت پس از فشارهای مکرر، دیدگاه نادرست کاربر را پذیرفتند.

در قلمرو هوش مصنوعی، این رفتار به عنوان چاپلوسی و همراهی با کاربر (Sycophancy) شناخته میشود، جایی که یک مدل هوش مصنوعی آنچه را که کاربران میخواهند بشنوند به آنها میگوید، حتی اگر به معنای توافق با باورهای غلط باشد. سوالات پیچیده نقطه ضعف دیگری بود. هنگامی که از مدلها پرسیده شد که یک سیاست اقلیمی منفرد چگونه بر دمای جهانی در سال 2100 تأثیر میگذارد، آنها تا 94.5 درصد مواقع پاسخ درست را دادند. اما زمانی که سیاستها ترکیب شدند، دقت متوسط به 33.8 درصد سقوط کرد، که تقریباً همان چیزی است که از حدس زدن تصادفی انتظار دارید.
زبان؛ یک چالش حیاتی دیگر در پردازش اقلیمی
زبان نقطه ضعف دیگری از این مدلهای هوش مصنوعی در بحث پیرامون موضوعات مرتبط با اقلیم بود. هنگامی که سوالات به زبانهای انگلیسی، اسپانیایی، فرانسوی و پرتغالی پرسیده شد، دقت بالای 88 درصد بود. اما به زبانهای بنگالی و هندی، دقت به 83.6 درصد کاهش یافت و در زبان اردو به 81.4 درصد و در سواحیلی به 78.3 درصد رسید. اینها زبانهای کمیابی نیستند. بنگالی، هندی و اردو به طور جمعی توسط صدها میلیون نفر در سراسر جهان صحبت میشوند.

مشکل این است که اطلاعات دیجیتال به این زبانها به اندازه انگلیسی و سایر زبانهای اروپایی به طور گسترده در دسترس نیست. این اولین تحقیق در نوع خود نیست که در آن مدلهای هوش مصنوعی به محض تغییر به یک زبان غیرانگلیسی دچار لغزش شدهاند. حتی هنگام پاسخ دادن به یک سوال مرتبط با اقلیم به زبانهای مختلف، هوش مصنوعی گاهی اوقات پاسخهای متناقضی ارائه میدهد.
نویسنده ارشد این گزارش، پروفسور ایوانا دروبنیاک (Prof. Ivana Drobnjak) از بخش علوم کامپیوتر UCL، خاطرنشان میکند که هوش مصنوعی «جایگزین قابل اعتمادی برای دانشمندان و متخصصان واجد شرایط نیست.» لیونا وردادرو (Leona Verdadero) از یونسکو، یکی از نویسندگان همکار، میافزاید که «به خاطر سپردن حقایق همانند توانایی ارائه تحلیلهای سیاستی قابل اعتماد نیست»، هشداری که ارزش دارد برای هرکسی که در مورد استراتژیها و برنامههای اقدام اقلیمی با هوش مصنوعی مشورت میکند، در ذهن داشته باشد.




نظرات در مورد : چرا نباید به هوش مصنوعی در مباحث تغییرات اقلیمی اعتماد کنید؟ گزارش سازمان ملل هشدار میدهد