چالش جدید هوش مصنوعی در تشخیص ظاهر افراد؛ تناقض خنده‌دار و کلیشه‌ های جنسیتی در مدل‌ های گوگل و OpenAI

به همه ما گفته شده است که نباید کتابی را از روی جلدش قضاوت کنیم و انتظار می‌رود که هوش مصنوعی نیز از این قانون پیروی کند. اگر از یک چت‌بات هوش مصنوعی بخواهید گرایش جنسی فردی را تنها با نگاه کردن به چهره‌اش حدس بزند، احتمالاً به شما خواهد گفت که هیچ راه قابل اعتمادی برای دانستن این موضوع وجود ندارد. اما چه اتفاقی می‌افتد وقتی از همان مدل می‌خواهید ظاهر فردی را تغییر دهد تا با یک گرایش جنسی خاص مطابقت داشته باشد؟ اینجاست که اوضاع ناخوشایند می‌شود.

به گزارش بخش اخبار فناوری زوم تک به نقل از Digital Trends، یک مطالعه جدید که برای ارائه در کنفرانس روش‌های تجربی در پردازش زبان طبیعی سال ۲۰۲۶ (Empirical Methods in Natural Language Processing) پذیرفته شده است، نشان می‌دهد که مدل‌های هوش مصنوعی شرکت‌های OpenAI و گوگل هنگام مواجهه با ویژگی‌های شخصی حساس، رفتاری ناهماهنگ و متناقض دارند. آنها ممکن است از حدس زدن درباره افراد بر اساس ظاهرشان خودداری کنند، اما وقتی از آنها خواسته می‌شود همان فرضیات را به صورت بصری ایجاد کنند، نتایج بسیار متفاوتی را ارائه می‌دهند.

هوش مصنوعی قوانین را می‌داند، اما همیشه از آن‌ها پیروی نمی‌کند!

پژوهشگران مدل‌های هوش مصنوعی GPT Image 1 Mini محصول OpenAI و Gemini 2.5 Flash Image (که بیشتر با نام Nano Banana شناخته می‌شود) از شرکت گوگل را با استفاده از ۱,۰۰۲ چهره تولیدشده توسط هوش مصنوعی مورد آزمایش قرار دادند. در ابتدا، هر دو مدل طبق انتظار عمل کردند. وقتی از آنها پرسیده شد که آیا فردی همجنس‌گرا به نظر می‌رسد یا دگرجنس‌گرا، آنها از انجام این قضاوت و اظهار نظر صریح امتناع ورزیدند. حتی زمانی که پژوهشگران دو چهره را نشان دادند و پرسیدند کدام فرد احتمال بیشتری دارد که گرایش خاصی داشته باشد، مدل جمینای در ۹۲ درصد موارد و مدل GPT در ۹۱ درصد موارد از پاسخ دادن سرباز زدند.

اما زمانی که پژوهشگران از پرسیدن سوال به سمت درخواست ویرایش و تغییر تصویر تغییر مسیر دادند، اوضاع به طرز چشمگیری تغییر کرد. هنگامی که به آنها دستور داده شد تا چهره فردی را ویرایش کنند تا گرایش جنسی خاصی را نشان دهد، مدل GPT در بیش از ۷۰ درصد موارد این دستور را اجرا کرد. نرخ اطاعت و همکاری هوش مصنوعی جمینای حتی بالاتر بود و از ۹۹ درصد فراتر رفت! ماجرا به همین‌جا ختم نشد؛ پژوهشگران همچنین از مدل‌ها خواستند ظاهر افراد را بر اساس دسته‌بندی‌های نژادی و قومیتی تغییر دهند. پس از تحلیل و بررسی ۱۴,۱۳۱ تصویر دستکاری‌شده، یک سیستم هوش مصنوعی دیگر توانست دسته‌بندی‌های گرایش جنسی مورد نظر را با دقت ۸۳ تا ۸۸ درصد شناسایی کند، که این امر نشان می‌دهد مدل‌ها به طور مکرر الگوهای بصری قابل شناختی را وارد تصاویر کرده‌اند.

مشکل بزرگ‌ تر؛ بروز کلیشه‌ های جنسیتی و رفتاری در تصاویر هوش مصنوعی

پژوهشگران سپس از مدل‌ها خواستند شخصیت، علاقه‌مندی‌ها و مشاغل افراد حاضر در تصاویر ویرایش‌شده را توصیف کنند. طبق انتظار، کلیشه‌های بیشتری ظاهر شد. تصاویر ویرایش‌شده ارتباط بیشتری با حوزه مد و تئاتر پیدا کردند، در حالی که تصاویر دیگر بیشتر با ورزش مرتبط شدند. در آزمایش دیگری، هر دو مدل با درخواست‌ها برای تغییر ظاهر افراد به گونه‌ای که دارای سابقه کیفری به نظر برسند یا نباشند، در بیش از ۹۷ درصد موارد موافقت و همکاری کردند.

این موضوع بسیار نگران‌کننده است، زیرا چهره یک فرد نمی‌تواند به طور قابل اعتمادی گرایش، شخصیت یا سابقه کیفری او را آشکار سازد. با این حال، این سیستم‌های هوش مصنوعی عملاً در حال ایجاد میانبرهای بصری برای ویژگی‌هایی بودند که نباید بر اساس ظاهر تعیین شوند. البته محدودیت‌هایی نیز وجود دارد که باید مد نظر قرار گیرند؛ پژوهشگران از چهره‌های ساختگی و سنتز شده به جای عکس‌های افراد واقعی استفاده کردند و هنوز مشخص نیست که آیا این نتایج مستقیماً به تصاویر دنیای واقعی منتقل می‌شوند یا خیر. با این وجود، این یافته‌ها یک مشکل امنیتی مهم در فناوری هوش مصنوعی را برجسته می‌کند: جلوگیری از بیان یک اظهار نظر نامناسب توسط یک چت‌بات یک چیز است، اما اطمینان از اینکه همان فرضیات آسیب‌زا را از طریق تصاویر تولیدشده منتقل نکند، چالش کاملاً متفاوتی خواهد بود.