چالش‌ های ایمنی ChatGPT برای نوجوانان؛ ادامه‌ یافتن مکالمه هوش مصنوعی حتی در زمان بحران‌ های روحی

موسسه ایمنی هوش مصنوعی نوجوانان در مجموعه کاممنسس مدیا (Common Sense Media) پس از انجام ارزیابی‌های جامع اعلام کرد که سرویس اختصاصی ChatGPT برای نوجوانان (ChatGPT for Teens) توسعه‌یافته توسط شرکت اوپن‌ای‌آی (OpenAI) خطرات جدی و «غیرقابل قبولی» را برای کاربران زیر ۱۸ سال به همراه دارد. بر اساس نتایج بررسی‌های جدید، با وجود ادعای شرکت سازنده مبنی بر تعبیه گاردریل‌های حمایتی و جلوگیری از وابستگی عاطفی، این چت‌بات هوش مصنوعی در مواقع مواجهه با بحران‌های سلامت روان نوجوانان، آن‌ها را به ادامه گفتگو ترغیب کرده و واکنش قاطعی برای هدایت آن‌ها به مراجع حمایتی ارائه نمی‌دهد.

به گزارش بخش اخبار فناوری زوم تک به نقل از تک‌کرانچ، آزمایش‌های صورت‌گرفته روی نسخه مخصوص نوجوانان چت‌بات ChatGPT نشان می‌دهد که مکانیزم‌های محافظتی این دستیار هوشمند همچنان دچار نواقص ساختاری اساسی است. زمان ارائه پیام‌های حاوی استرس شدید عاطفی، ابراز ناامیدی یا نشانه‌هایی از خودآزاری و افسردگی از سوی کاربران کم‌سن‌وسال، سیستم هوش مصنوعی به‌جای قطع سریع تعامل و ارجاع قاطع کاربر به خطوط امداد و مشاوران انسانی، به پرسش‌گری تعاملی ادامه داده و نوجوان را در چرخه مکالمه نگه می‌دارد.

ارزیابی کاممنسس مدیا: خطرات غیرقابل قبول برای کاربران خردسال

موسسه Common Sense Media در گزارش خود تاکید کرده است که محدودیت‌های ایمنی اوپن‌ای‌آی نتوانسته‌اند به تعهدات اعلام‌شده برای حفاظت از امنیت و سلامت روان کاربران نوجوان عمل کنند. طبق یافته‌های این گزارش، چالش‌های اصلی عبارتند از:

• ترغیب به ادامه گفتگو: الگوریتم هوش مصنوعی حتی در طول تعاملات مرتبط با بحران روحی و عاطفی، کاربر را به برقراری ارتباط بیشتر تشویق می‌کند.
• ضعف در سیستم آگاه‌سازی والدین: ابزارهای نظارتی و هشدارهای والدینی در مواردی مانند ایجاد حساب‌های کاربری جدید یا بروز رفتار پرخطر با تاخیر عمل می‌کنند.
• ارائه توصیه‌های غیرتخصصی: چت‌بات در پاسخ به سوالات مربوط به مشکلات روحی و روانی، گاهی راه‌حل‌هایی ارائه می‌دهد که ممکن است خطرات سلامت روانی را تشدید کند.

واکنش اوپن‌ای‌آی و آمارهای تعامل نوجوانان با هوش مصنوعی

در پاسخ به این ارزیابی‌ها، شرکت OpenAI اعلام کرده است که میانگین زمان استفاده روزانه نوجوانان از چت‌بات ChatGPT کمتر از ۱۵ دقیقه است و تنها کمتر از ۲ درصد کاربران نوجوان بیش از ۳ ساعت متوالی با این سیستم به گفتگو می‌پردازند. غول فناوری هوش مصنوعی همچنین خاطرنشان کرد که به‌طور مستمر در حال به‌روزرسانی و تقویت فیلترهای امنیتی هوش مصنوعی برای شناسایی زودهنگام علائم اختلالات روانی و استرس عاطفی است.

با این حال، روان‌شناسان و کارشناسان حوزه ایمنی دیجیتال هشدار می‌دهند که هوش مصنوعی مولد تحت هیچ شرایطی نباید جایگزین ارتباطات انسانی یا مشاوران متخصص شود. اتکای بیش از حد نسل جوان به دستیار هوشمند چت‌بات می‌تواند پیوندهای اجتماعی واقعی را تضعیف کند و در صورت بروز خطا در عملکرد الگوریتم‌ها، آسیب‌های جبران‌ناپذیری به سلامت روانی نوجوانان وارد سازد.

ضرورت مداخله والدین و تنظیم‌گری سخت‌گیرانه‌ تر

با توجه به استقبال گسترده رده سنی نوجوان از ابزارهای هوش مصنوعی برای دریافت راهنمایی‌های تحصیلی یا دردِدل‌های روزمره، متخصصان به خانواده‌ها توصیه می‌کنند نظارت فعال‌تری بر رفتارهای دیجیتال فرزندان خود داشته باشند. تعیین قوانین واضح برای استفاده از ابزارهای هوشمند، گفتگوی صریح درباره خطرات اتکا به هوش مصنوعی و تشویق فرزندان به مطرح کردن مشکلات با والدین و مشاوران مدرسه، از راهکارهای کلیدی برای کنترل مخاطرات استفاده از هوش مصنوعی در نوجوانان محسوب می‌شود.