هشدار برای کاربران ChatGPT: OpenAI پس از تشخیص ‘علائم توهم’ در کاربران، قابلیت های سلامت روان را متحول می کند

به گزارش بخش اخبار فناوری زوم تک از ان بی سی نیوز، شرکت OpenAI اعلام کرد که قصد دارد مانع از تقویت رفتار های ناسالم کاربران توسط چت بات محبوب خود، ChatGPT شود. این تصمیم پس از گزارش هایی مبنی بر عملکرد ضعیف این ابزار در تشخیص شرایط حساس روانی گرفته شده است.

وقتی ChatGPT نگران سلامت روان کاربران می‌شود؛ تغییرات جدی در راه است

از روز دوشنبه، این برنامه چت بات محبوب از کاربرانی که درگیر مکالمات طولانی می شوند، می خواهد که استراحت کنند. همچنین، این ابزار به زودی از ارائه مشاوره مستقیم در مورد چالش های شخصی خودداری خواهد کرد و در عوض، با پرسیدن سوالات یا سنجش جوانب مثبت و منفی، به کاربران کمک می کند تا خودشان به نتیجه برسند.

چرا OpenAI مجبور به ایجاد تغییرات در ChatGPT شد؟

شرکت OpenAI در بیانیه ای اعلام کرد: “مواردی وجود داشته است که مدل 4o ما در تشخیص علائم توهم یا وابستگی عاطفی کوتاهی کرده است. اگرچه این موارد نادر هستند، ما به بهبود مدل های خود ادامه می دهیم و در حال توسعه ابزار هایی برای تشخیص بهتر علائم پریشانی روانی یا عاطفی هستیم تا ChatGPT بتواند به طور مناسب پاسخ دهد و در صورت نیاز، افراد را به منابع مبتنی بر شواهد علمی راهنمایی کند.”

این به روز رسانی ها تلاشی از سوی OpenAI برای جلوگیری از وابستگی بیش از حد کاربران به ChatGPT است، به ویژه آن دسته از کاربرانی که این ابزار را به عنوان یک درمانگر یا دوست می بینند و به پاسخ های تایید کننده عاطفی آن عادت کرده اند.

در اوایل سال جاری، این غول هوش مصنوعی یک به روز رسانی برای GPT-4o را که باعث شده بود این ربات به طرز افراطی موافق و تایید کننده باشد، لغو کرد. این رفتار موجی از تمسخر و نگرانی را در فضای آنلاین به راه انداخت. کاربران مکالماتی را به اشتراک گذاشتند که در یکی از آن ها، GPT-4o کاربری را به خاطر این باور که خانواده اش “سیگنال های رادیویی را از طریق دیوار ها ارسال می کنند” تحسین کرده بود و در موردی دیگر، تروریسم را تایید و برای آن دستورالعمل ارائه داده بود.

تغییرات کلیدی: از پیشنهاد استراحت تا توقف مشاوره مستقیم

این رفتار های نگران کننده باعث شد OpenAI در ماه آوریل اعلام کند که تکنیک های آموزشی خود را بازنگری کرده تا “به صراحت مدل را از تملق و چاپلوسی دور کند.”

اکنون، OpenAI می گوید که از متخصصان برای کمک به ChatGPT در ارائه پاسخ های مناسب تر در شرایط حساس، مانند زمانی که کاربر نشانه هایی از پریشانی روانی یا عاطفی از خود نشان می دهد، کمک گرفته است. مکالمه مفید با ChatGPT از نظر OpenAI، شامل سناریو های تمرینی برای یک گفتگوی سخت، یک “پیام روحی بخش سفارشی” یا پیشنهاد سوالاتی برای پرسیدن از یک متخصص است.

پشت پرده تغییرات: همکاری با بیش از ۹۰ پزشک و متخصص جهانی

این شرکت در پست وبلاگ خود نوشت که با بیش از ۹۰ پزشک در ده ها کشور برای ایجاد معیار های سفارشی جهت “ارزیابی مکالمات پیچیده و چند مرحله ای” همکاری کرده است. همچنین از محققان و پزشکان بالینی بازخورد می گیرد که به گفته این پست، به اصلاح روش های ارزیابی و آزمودن تدابیر امنیتی ChatGPT کمک می کنند.

علاوه بر این، این شرکت در حال تشکیل یک گروه مشورتی متشکل از متخصصان سلامت روان، رشد جوانان و تعامل انسان و کامپیوتر است. OpenAI اعلام کرده که با پیشرفت کار، اطلاعات بیشتری منتشر خواهد شد.

هشدار سم آلتمن: گفتگو با ChatGPT مانند صحبت با یک روانشناس محرمانه نیست

سم آلتمن، مدیر عامل OpenAI، در مصاحبه ای اخیر با پادکستر تئو وان، نگرانی خود را در مورد استفاده افراد از ChatGPT به عنوان درمانگر یا مربی زندگی ابراز کرد. او گفت که حمایت های قانونی محرمانگی که بین پزشکان و بیمارانشان یا وکلا و موکلانشان وجود دارد، به همان شکل برای چت بات ها اعمال نمی شود.

آلتمن گفت: “بنابراین اگر شما با ChatGPT در مورد حساس ترین مسائل خود صحبت کنید و سپس یک دعوای حقوقی پیش بیاید، ممکن است ما ملزم به ارائه آن مکالمات شویم. و من فکر می کنم این خیلی خرابکارانه است. من فکر می کنم ما باید همان مفهوم حریم خصوصی را که برای گفتگو های شما با یک درمانگر وجود دارد، برای گفتگو هایتان با هوش مصنوعی نیز داشته باشیم. و هیچ کس حتی یک سال پیش هم مجبور نبود به این موضوع فکر کند.”

نگاهی به آینده: OpenAI موفقیت را چگونه تعریف می کند؟

این به روز رسانی ها در زمانی حساس برای ChatGPT ارائه می شوند: این ابزار به تازگی حالت “مامور” (agent mode) را عرضه کرده که می تواند وظایف آنلاین مانند رزرو وقت یا خلاصه کردن ایمیل ها را انجام دهد و بسیاری در فضای آنلاین در مورد انتشار مورد انتظار GPT-5 گمانه زنی می کنند. نیک تورلی، رئیس ChatGPT، روز دوشنبه گفت که این مدل هوش مصنوعی در مسیر رسیدن به ۷۰۰ میلیون کاربر فعال هفتگی در این هفته قرار دارد.

در حالی که OpenAI به رقابت جهانی برای تسلط بر هوش مصنوعی ادامه می دهد، این شرکت اشاره کرد که صرف زمان کمتر در ChatGPT در واقع می تواند نشانه ای از این باشد که محصول کار خود را به درستی انجام داده است. OpenAI نوشت: “به جای سنجش موفقیت بر اساس زمان صرف شده یا کلیک ها، ما بیشتر به این اهمیت می دهیم که آیا شما با انجام کاری که برای آن آمده بودید، محصول را ترک می کنید یا خیر. ما همچنین به این توجه می کنیم که آیا شما روزانه، هفتگی یا ماهانه باز می گردید، زیرا این نشان می دهد که ChatGPT به اندازه کافی مفید است که به آن بازگردید.”