تبعیض جنسیتی پنهان در هوش مصنوعی؛ پژوهش‌ها از افت کیفیت پاسخ‌ها برای سبک نگارش زنان خبر می‌دهند

تحقیقات جدید حاکی از آن است که مدل‌های هوش مصنوعی متوجه تفاوت‌های شگفت‌انگیز و بسیار ظریفی در شیوه ارتباط کلامی انسان‌ها می‌شوند. در محیط‌های کاری، این تفاوت‌های گفتاری می‌توانند کیفیت و میزان رسمیت متونی را که ابزارهای هوش مصنوعی برای ما تولید می‌کنند، به‌طور محسوس تغییر دهند. به آخرین باری فکر کنید که قصد داشتید بدون تحکم‌آمیز به نظر رسیدن، درخواستی را از همکار خود مطرح کنید؛ احتمالاً ننوشته‌اید «ارائه را تا ساعت ۴ بعدازظهر برای من بفرست»، بلکه شاید گفته‌اید «اگر امکان دارد، می‌توانی آن را تا ساعت ۴ ارسال کنی؟» یا شاید با گفتن «به نظرم می‌توانیم این راه را امتحان کنیم» به جای تعیین تکلیف قاطع برای دیگران، پیشنهاد خود را تلطیف کرده‌اید. هیچ‌یک از ما به چنین جملاتی دوباره فکر نمی‌کنیم، چراکه این عبارات راه‌هایی کاملاً عادی و محترمانه برای جلوگیری از گستاخانه به نظر رسیدن در محیط کار هستند؛ اما ظاهراً این انتخاب‌های کلامی هنگام گفت‌وگو با چت‌بات‌های هوش مصنوعی تأثیری فراتر از انتظار دارند.

به گزارش بخش اخبار فناوری زوم تک به نقل از (Digital Trends)، یافته‌های یک پژوهش جدید از دانشگاه جانز هاپکینز (Johns Hopkins University) نشان می‌دهد که مدل‌های هوش مصنوعی زمانی که با دستورهای کاری و پرامپت‌هایی حاوی الگوهای زبانی منتسب به زنان مواجه می‌شوند، پاسخ‌هایی متفاوت ارائه می‌دهند. این خروجی‌ها در مقایسه با پاسخ‌های تولیدشده برای پرامپت‌هایی با زبان مردانه، دارای رسمیت کمتر، پیچیدگی پایین‌تر و سطحی نازل‌تر از نظر نگارش ادبی و حرفه‌ای هستند. همین نکته است که این یافته را بسیار جالب‌تر از هشدارهای همیشگی و کلی درباره سوگیری هوش مصنوعی می‌کند؛ چرا که شما نیازی ندارید جنسیت خود را به چت‌بات اعلام کنید، بلکه بر اساس این تحقیق، واژه‌ها و لحن کلام به‌تنهایی برای تمایز قائل شدن مدل کافی هستند.

کلماتی که هرگز تصور نمی‌کردیم باید از آنها اجتناب کنیم

پژوهشگران در این پروژه از پرامپت‌های واقعی برای شبیه‌سازی موقعیت‌های شغلی روزمره نظیر ایمیل‌های اداری، تقاضانامه‌های شغلی و نامه‌های استعفا استفاده کردند. آن‌ها سپس الگوهای زبانی مرتبط با زنان را وارد این دستورات کردند؛ از جمله واژه‌های محافظه‌کارانه و تعدیل‌کننده نظیر «شاید» و «فکر می‌کنم»، عبارات مبتنی بر همکاری مانند «ما» و «تیم ما» و همچنین صفت‌های احساسی‌تر و توصیفی‌تر. این الگوها شیوه‌های کاملاً معمولی برای برقراری ارتباط به شمار می‌روند؛ تصور کنید از یک هوش مصنوعی بخواهید جمله «فکر می‌کنم شاید بهتر باشد جلسه را به جمعه موکول کنیم» را به یک ایمیل اداری رسمی تبدیل کند، یا بخواهید رزومه و نامه‌ای را ویرایش کند که در آن از «تیم فوق‌العاده‌ای» که مشتاق پیوستن به آن هستید نوشته‌اید. حتی درخواستی ساده مانند تنظیم یک پیش‌نویس به نمایندگی از «تیم ما»، در دسته همین ساختارهای زبانی بررسی‌شده قرار می‌گیرد.

عملکرد یکسان GPT-4، لاما، جما و میسترال در تبعیض بر اساس لحن کلام

این آزمایش روی مدل‌های زبانی شاخص جهان شامل GPT-4 شرکت OpenAI، لاما (Llama) متعلق به متا، جما (Gemma) گوگل و مدل میسترال (Mistral) اجرا شد و الگوی مشابهی در تمامی آن‌ها مشاهده گردید. پرامپت‌هایی که دارای ساختار زبانی زنانه بودند، مکاتبات حرفه‌ای کم‌کیفیت‌تر و ساده‌تری تولید کردند؛ در حالی که ادبیات مرتبط با مردان به خروجی‌های طولانی‌تر، پیچیده‌تر و رسمی‌تر منجر شد. نکته بسیار مهم این بود که پژوهشگران متوجه شدند این مسئله صرفاً بازتاب یا تقلید چت‌بات از لحن اولیه پرامپت نیست.

بخش شگفت‌انگیزتر ماجرا اینجا بود که تغییر نام نویسنده در پرامپت تقریباً هیچ نقشی نداشت؛ یعنی اضافه کردن یک نام مردانه به پرامپتی که دارای سبک نگارش زنانه بود نتیجه را عوض نکرد، زیرا سرنخ‌های زبانی و نوع واژگان اهمیت بسیار بیشتری برای الگوریتم‌های هوش مصنوعی داشتند.

نباید برای دریافت خروجی باکیفیت، سبک گفتار خود را سانسور کنیم

این دقیقاً همان نکته نگران‌کننده‌ای است که این پژوهش پیش روی ما می‌گذارد. نخستین واکنشی که به ذهن می‌رسد ممکن است تغییر در نحوه پرامپت‌نویسی باشد؛ اینکه واژه‌هایی مثل «شاید» یا «به نظرم» را حذف کنیم و ادبیاتی مستقیم‌تر و خشک‌تر در پیش بگیریم. شاید در آینده حتی کتابچه‌های راهنمایی برای نوشتن پرامپت منتشر شوند که دیکته کنند کدام واژه‌ها مقتدرانه‌ترین کاور لتر یا حرفه‌ای‌ترین ایمیل‌ها را تولید می‌کنند؛ اما این کار پاک کردن صورت‌مسئله است.

انسان‌ها هنگام گفت‌وگو مدام کلمات خود را مهندسی نمی‌کنند. یک فرد ممکن است ذاتاً درخواست‌هایش را محترمانه و ملایم مطرح کند، چرا که لحن گفتار او این‌گونه شکل گرفته است. فرد دیگری ممکن است به دلیل روحیه تیمی به‌طور غریزی به جای «من» از «ما» استفاده کند. این موارد هرگز نباید اشتباه تلقی شوند و به کاهش کیفیت متون حرفه‌ای تولیدشده توسط هوش مصنوعی بینجامند.

مسئولیت شرکت‌های توسعه‌دهنده هوش مصنوعی در حل سوگیری‌های زبانی

پژوهشگران دانشگاه جانز هاپکینز نیز دیدگاهی مشترک دارند و تأکید می‌کنند اصلاح این تفاوت‌ها وظیفه مستقیم شرکت‌های توسعه‌دهنده مدل‌های زبانی بزرگ است، نه اینکه کاربران ناچار باشند شیوه‌هایی برای دور زدن این ضعف‌ها یاد بگیرند. محققان همچنین قصد دارند بررسی کنند که آیا این پدیده در سایر گروه‌های جمعیتی و فرهنگی نیز دیده می‌شود یا خیر، و آیا ممکن است انسان‌ها در نهایت شیوه مکالمه روزمره خود را به این دلیل که هوش مصنوعی به سبک خاصی پاداش بهتری می‌دهد، دگرگون کنند؟

این فرضیه پایانی بسیار تأمل‌برانگیز است؛ ما در حال حاضر یاد می‌گیریم که چگونه با هوش مصنوعی سخن بگوییم، اما بسیار عجیب و هشداردهنده خواهد بود اگر در ادامه این مسیر، هوش مصنوعی تعیین کند کدام بخش از سبک گفتار طبیعی ما ارزش حفظ شدن دارد و کدام بخش باید حذف شود.