10 مرداد ماه 1404
1 
در یک اتفاق تکان دهنده، مشخص شد که مکالمات خصوصی و بسیار شخصی هزاران کاربر چت جی پی تی، به دلیل یک باگ در قابلیت به اشتراک گذاری، در نتایج جستجوی گوگل ایندکس شده اند. این مکالمات شامل اطلاعات حساسی از زندگی کاربران، از جمله روابط، تجربیات شخصی و حتی مسائل مربوط به سلامت روان بود. در حالی که اپن ای ای این قابلیت را به سرعت حذف کرده و در حال تلاش برای پاک کردن این اطلاعات از موتورهای جستجو است، این ماجرا سوالات جدی درباره حریم خصوصی کاربران و مسئولیت شرکت های بزرگ فناوری ایجاد کرده است. ایا این یک اشتباه ناخواسته بود یا یک سهل انگاری بزرگ؟
افشای ناخواسته اطلاعات کاربران ChatGPT در گوگل؛ خطایی کوچک با پیامدهای سنگین
به گزارش بخش اخبار فناوری زوم تک از ارس تکنیکا، در پی واکنش های شدید کاربران، اپن ای ای یک قابلیت بحث برانگیز در چت جی پی تی را حذف کرد که باعث شده بود برخی مکالمات خصوصی و بسیار شخصی کاربران به صورت ناخواسته در نتایج جستجوی گوگل ظاهر شوند.
نشریه “فست کمپانی” با افشای این مشکل حریم خصوصی، گزارش داد که هزاران مکالمه چت جی پی تی در نتایج گوگل پیدا شده اند و این تعداد تنها نمونه ای از مکالماتی است که “میلیون ها نفر می توانند ببینند.” اگرچه در ایندکس شدن این مکالمات، اطلاعات شناسایی کاربران به طور مستقیم ذکر نشده بود، اما برخی از این چت ها حاوی جزئیات شخصی بسیار دقیقی از روابط بین فردی با دوستان و اعضای خانواده بودند که به گفته “فست کمپانی”، امکان شناسایی کاربران را فراهم می کرد.
جزئیات یک “اشتباه” در قابلیت اشتراک گذاری
مدیر ارشد امنیت اطلاعات اپن ای ای، دین استاکی، در شبکه اجتماعی X توضیح داد که همه کاربرانی که چت هایشان افشا شده بود، با کلیک کردن روی یک کادر پس از انتخاب گزینه “اشتراک گذاری چت”، با ایندکس شدن مکالمات خود موافقت کرده بودند.
“فست کمپانی” اشاره کرده است که کاربران اغلب چت ها را از طریق واتس اپ به اشتراک می گذاشتند یا لینک ان را برای مراجعه بعدی ذخیره می کردند. اما نحوه نمایش گزینه اشتراک گذاری می توانست کاربران را به اشتباه بیندازد:
“وقتی کاربران روی ‘اشتراک گذاری’ کلیک می کردند، گزینه ای با عنوان ‘این چت را قابل کشف کن’ به ان ها نمایش داده می شد. در زیر ان، با متنی کوچکتر و کم رنگ تر، توضیح داده شده بود که این چت ممکن است در نتایج موتورهای جستجو ظاهر شود.”
در ابتدا، اپن ای ای از این برچسب گذاری دفاع کرد و ان را “به اندازه کافی واضح” دانست. اما استاکی در نهایت تایید کرد که این شرکت به این نتیجه رسیده که این قابلیت “فرصت های زیادی را برای افراد ایجاد کرده تا به طور تصادفی چیزهایی را که قصد اشتراک گذاری انها را نداشتند، به اشتراک بگذارند.” به گفته “فست کمپانی”، این مکالمات شامل چت هایی درباره مصرف مواد مخدر، زندگی جنسی، سلامت روان و تجربیات تروماتیک کاربران بود.
کاریسا ولیز، کارشناس اخلاق هوش مصنوعی در دانشگاه اکسفورد، در مصاحبه با “فست کمپانی” گفت که از اینکه گوگل این “مکالمات فوق العاده حساس” را ثبت می کرده، “شوکه” شده است.
واکنش اپن ای ای و تلاش برای پاک کردن اطلاعات
استاکی این قابلیت را یک “ازمایش کوتاه مدت” نامید که اپن ای ای ان را برای “کمک به کشف مکالمات مفید” راه اندازی کرده بود. او تایید کرد که تصمیم برای حذف این قابلیت شامل تلاش برای “حذف محتوای ایندکس شده از موتور جستجوی مربوطه” تا صبح جمعه بود.
گوگل به گزارش “فست کمپانی” پاسخی نداد، که باعث شد نقش ان در نمایش چت ها در نتایج جستجو نامشخص باقی بماند. اما یک سخنگو به “ارس” گفت که اپن ای ای به طور کامل مسئول ایندکس شدن بوده و توضیح داد که “نه گوگل و نه هیچ موتور جستجوی دیگری، کنترلی بر اینکه کدام صفحات در وب عمومی شوند، ندارند. ناشران این صفحات، کنترل کامل بر ایندکس شدن انها توسط موتورهای جستجو را دارند.”
به نظر می رسد اپن ای ای تنها مسئول حذف چت ها نیز هست و احتمالا از ابزاری که گوگل برای جلوگیری از نمایش صفحات در نتایج جستجو فراهم کرده است، برای این کار استفاده کرده. اما این ابزار از ایندکس شدن صفحات توسط سایر موتورهای جستجو جلوگیری نمی کند، بنابراین ممکن است چت ها در نتایج گوگل سریعتر از سایر موتورهای جستجو ناپدید شوند.
سابقه طولانی مشکلات حریم خصوصی
این رسوایی زمانی اتفاق می افتد که اپن ای ای پیش از این نیز درگیر مسائل حریم خصوصی بوده است. این شرکت با یک حکم دادگاه مواجه است که ان را ملزم می کند تمام چت های حذف شده کاربران را “به صورت نامحدود” برای یک پرونده حقوقی حفظ کند. این موضوع نگرانی هایی را در میان کاربرانی که گمان می کردند چت های موقت و حذف شده انها ذخیره نمی شود، ایجاد کرده بود. سام التمن، مدیر عامل اپن ای ای، در گذشته احتمال جستجو شدن خصوصی ترین چت های کاربران را “غیرمنطقی” دانسته بود، اما “فست کمپانی” اشاره می کند که او به طور شفاف نسبت به احتمال افشای چت های خصوصی کاربران در گوگل و سایر موتورهای جستجو، انتقادی نشان نداده است. این اتفاق بار دیگر این سوال را مطرح می کند که تا چه اندازه می توان به سیاست های حریم خصوصی شرکت های هوش مصنوعی اعتماد کرد.
ایا با حذف اکانت بدون پاک کردن لینک های اشتراک گذاری شده در داشبورد امکان پاک شدن چت های ایندکس شده وجود دارد