آنتی ویروس پادویش

رسوایی جدید OpenAI: افشای چت‌ لاگ‌ های خصوصی و «خجالت‌ آور» ChatGPT در گوگل سرچ کنسول

رسوایی جدید OpenAI: افشای چت‌ لاگ‌ های خصوصی و «خجالت‌ آور» ChatGPT در گوگل سرچ کنسول 1

افشای عجیب ChatGPT: چت‌ های خصوصی در گوگل سرچ کنسول پیدا شد

ماه‌ هاست که مکالمات بسیار شخصی و حساس ChatGPT به مقصدی غیرمنتظره درز پیدا کرده‌اند: گوگل سرچ کنسول (GSC)، ابزاری که توسعه‌دهندگان معمولاً برای نظارت بر ترافیک جستجو از آن استفاده می‌کنند، نه برای سرک کشیدن در چت‌ های خصوصی.

کانال بله زوم تکگیفت کارت

کشف کوئری‌ های عجیب ۳۰۰ کاراکتری در GSC

به گزارش بخش اخبار فناوری زوم تک به نقل از Ars Technica، به طور معمول، وقتی مدیران سایت به گزارش‌های عملکرد GSC دسترسی پیدا می‌کنند، کوئری‌هایی (Queries) مبتنی بر کلمات کلیدی یا عبارات کوتاهی را می‌بینند که کاربران اینترنت برای یافتن محتوای مرتبط در گوگل تایپ می‌کنند. اما از سپتامبر امسال، کوئری‌های عجیبی، که گاهی بیش از ۳۰۰ کاراکتر طول داشتند، نیز در GSC یافت شدند. این چت‌ها که فقط ورودی‌های کاربر را نشان می‌دادند، به نظر می‌رسید متعلق به افرادی ناآگاه بودند که از یک چت‌بات برای حل مشکلات عاطفی یا کاری خود کمک می‌خواستند و احتمالاً انتظار داشتند آن مکالمات خصوصی باقی بمانند.

«اثبات قطعی» OpenAI از گوگل اسکرپ می‌کند

جیسون پکر (Jason Packer)، صاحب یک شرکت مشاوره تحلیلی به نام Quantable، از اولین کسانی بود که ماه گذشته در یک وبلاگ دقیق، این موضوع را گزارش داد.

او که مصمم بود دقیقاً بفهمد چه چیزی باعث این افشای اطلاعات شده است، با «کارآگاه اینترنتی» و مشاور بهینه‌سازی وب، اسلوبودان مانیچ (Slobodan Manić) همکاری کرد. آن‌ها با هم آزمایشاتی انجام دادند که معتقدند ممکن است «اولین اثبات قطعی مبنی بر اینکه OpenAI مستقیماً جستجوی گوگل را با پرامپت‌های (prompts) واقعی کاربران اسکرپ (scrape) می‌کند» را آشکار کرده باشد. تحقیقات آن‌ها به نظر می‌رسید تأیید می‌کند که این غول هوش مصنوعی در حال به خطر انداختن حریم خصوصی کاربران بوده است، در برخی موارد به منظور حفظ تعامل، با به دست آوردن داده‌های جستجویی که گوگل در غیر این صورت به اشتراک نمی‌گذاشت.

پاسخ مبهم OpenAI: مشکل «برطرف شد»

OpenAI درخواست Ars Technica برای تأیید صحت نظریه پکر و مانیچ یا پاسخ به سؤالات باقی‌مانده آن‌ها را رد کرد.

با این حال، یک سخنگوی OpenAI تأیید کرد که این شرکت از این موضوع «آگاه» بوده و از آن زمان «اشکالی» را «برطرف کرده» است که «به طور موقت بر نحوه مسیریابی تعداد کمی از کوئری‌های جستجو تأثیر گذاشته بود».

پکر به Ars گفت که «بسیار خرسند است که OpenAI توانست به سرعت مشکل را برطرف کند.» اما او اشاره کرد که پاسخ OpenAI تأیید نمی‌کند که آیا OpenAI در حال اسکرپ کردن گوگل بوده است یا خیر، و این موضوع، فضایی را برای تردید در مورد حل کامل مشکل باقی می‌گذارد.

گوگل از اظهار نظر در این باره خودداری کرد.

«عجیب‌ تر» از افشای اطلاعات قبلی ChatGPT

اولین کوئری عجیب ChatGPT که در GSC ظاهر شد و پکر آن را بررسی کرد، یک جریان سیال ذهن عجیب و غریب از کاربری (احتمالاً زن) بود که از ChatGPT می‌خواست رفتارهای خاصی را ارزیابی کند تا به او کمک کند بفهمد آیا پسری که او را اذیت می‌کند، به او احساسی دارد یا خیر. کوئری عجیب دیگر به نظر می‌رسید از طرف یک مدیر دفتر باشد که در حال برنامه‌ریزی برای اعلام بازگشت به محل کار، اطلاعات تجاری را به اشتراک می‌گذاشت.

این‌ها تنها دو مورد از ۲۰۰ کوئری عجیب بودند—که به گفته پکر به Ars، «شامل برخی موارد بسیار دیوانه‌وار» نیز می‌شد—که او تنها در یک سایت بررسی کرد. پکر در وبلاگ خود نتیجه گرفت که این کوئری‌ها باید به عنوان «یادآوری باشند که پرامپت‌ها آنقدرها هم که فکر می‌کنید خصوصی نیستند!»

چگونه URL خود OpenAI باعث این افشاگری شد؟

پکر مشکوک بود که این کوئری‌ها به گزارش The Information در ماه آگوست مرتبط باشند که به نقل از منابعی ادعا می‌کرد OpenAI در حال اسکرپ کردن نتایج جستجوی گوگل برای تقویت پاسخ‌های ChatGPT است. منابع ادعا کردند که OpenAI برای پاسخ به پرامپت‌هایی که در مورد رویدادهای جاری، مانند اخبار یا ورزش، از ChatGPT سؤال می‌کردند، به گوگل تکیه کرده است.

OpenAI تأیید نکرده است که در حال اسکرپ کردن صفحات نتایج موتور جستجوی گوگل (SERPs) است. با این حال، پکر فکر می‌کند آزمایش او بر روی افشای اطلاعات ChatGPT ممکن است مدرکی باشد که نشان می‌دهد OpenAI نه تنها «SERPها را به طور کلی برای به دست آوردن داده‌ها» اسکرپ می‌کند، بلکه پرامپت‌های کاربران را نیز به جستجوی گوگل ارسال می‌کند.

مانیچ به پکر کمک کرد تا بخش بزرگی از این معما را حل کند. او دریافت که کوئری‌های عجیب در GSC یک سایت ظاهر می‌شدند زیرا آن سایت در جستجوی گوگل برای «https://openai.com/index/chatgpt/» رتبه بالایی داشت—یک URL از ChatGPT که در ابتدای هر کوئری عجیبی که در GSC ظاهر می‌شد، ضمیمه شده بود.

بیشتر بخوانید  افشاگری جدید پیکسل، دستگاه های آینده گوگل را در رنگ محبوب جدیدش به نمایش می گذارد: "Moonstone" در راه است

این یک خرابکاری جدید و کاملاً متفاوت است

به نظر می‌رسید که گوگل این URL را توکنیزه (tokenize) کرده و آن را به جستجویی برای کلمات کلیدی «openai + index + chatgpt» شکسته است. پکر و مانیچ مطرح کردند که سایت‌هایی که از GSC استفاده می‌کنند و برای آن کلمات کلیدی رتبه بالایی دارند، بنابراین احتمالاً با افشای اطلاعات ChatGPT مواجه شده‌اند، از جمله سایت‌هایی که افشای قبلی ChatGPT را که در آن چت‌ها در نتایج جستجوی گوگل ایندکس می‌شدند، پوشش داده بودند. Ars با استفاده از توصیه‌های آن‌ها برای جستجوی کوئری‌ها در GSC، توانست رشته‌های مشابهی را تأیید کند.

پکر نوشت: «اما گیج نشوید، این یک خرابکاری جدید و کاملاً متفاوت از سوی ChatGPT است، نه اینکه گوگل چیزهایی را که ما نمی‌خواهیم ایندکس کند. این مورد عجیب‌تر است، اگرچه شاید به همان اندازه جدی نباشد.»

نظریه فنی: چگونه باگ ChatGPT پرامپت‌ ها را فاش کرد؟

مشخص نیست که OpenAI دقیقاً چه چیزی را برطرف کرده است، اما پکر و مانیچ نظریه‌ای در مورد یک مسیر احتمالی برای افشای چت‌ها دارند. با بازدید از URLی که در ابتدای هر کوئری عجیب یافت شده در GSC قرار دارد، کاربران ChatGPT با یک کادر پرامپت مواجه می‌شوند که به نظر می‌رسد باگ داشته و باعث می‌شود «URL آن صفحه به پرامپت اضافه شود.» آن‌ها توضیح دادند که به نظر می‌رسد مشکل این بوده است:

به طور معمول ChatGPT 5 هر زمان که فکر کند نیاز به جستجوی وب دارد، این کار را انتخاب می‌کند و احتمال بیشتری دارد که این کار را با یک جستجوی مبهم یا نیازمند اطلاعات اخیر انجام دهد. اما این کادر پرامپت باگ‌دار همچنین حاوی پارامتر کوئری «hints=search» است که باعث می‌شود اساساً همیشه یک جستجو انجام دهد: https://chatgpt.com/?hints=search&openaicom_referred=true&model=gpt-5

وبلاگ پکر می‌گوید: «واضح است که برخی از آن جستجوها به گوگل متکی بوده‌اند و به اشتباه «هر آنچه» کاربر در کادر پرامپت می‌گوید را، به همراه متن «https://openai.com/index/chatgpt/» که به ابتدای آن اضافه شده، به GSC ارسال می‌کردند.» همانطور که پکر توضیح داد: «ما می‌دانیم که حتماً آن‌ها را اسکرپ کرده است نه اینکه از API یا نوعی اتصال خصوصی استفاده کرده باشد—زیرا آن گزینه‌های دیگر در داخل GSC نشان داده نمی‌شوند.»

یک «فاجعه» امنیتی: پرامپت‌ ها با چه کسانی به اشتراک گذاشته شدند؟

پکر ادعا کرد: «این بدان معناست که OpenAI هر پرامپتی را که نیاز به جستجوی گوگل داشته باشد، هم با گوگل و هم با هر کسی که کار اسکرپ کردن آن‌ها را انجام می‌دهد، به اشتراک می‌گذارد. و سپس همچنین با هر کسی که سایتش در نتایج جستجو ظاهر می‌شود! وای.»

از نظر پکر، به نظر می‌رسید که «تمام پرامپت‌های ChatGPT» که از جستجوی گوگل استفاده می‌کردند، در دو ماه گذشته در معرض خطر افشا قرار داشته‌اند.

OpenAI ادعا کرد که تنها تعداد کمی از کوئری‌ها فاش شده‌اند اما از ارائه تخمین دقیق‌تر خودداری کرد. بنابراین، هنوز مشخص نیست که از ۷۰۰ میلیون نفری که هر هفته از ChatGPT استفاده می‌کنند، پرامپت‌های چه تعداد از آن‌ها به GSC هدایت شده است.

سؤالات بی‌ پاسخ: آیا OpenAI به حریم خصوصی اهمیت می‌ دهد؟

پس از اینکه در ماه آگوست پرامپت‌های ChatGPT در ایندکس جستجوی گوگل پیدا شدند، OpenAI توضیح داد که کاربران روی کادری کلیک کرده بودند که آن پرامپت‌ها را عمومی می‌کرد، که OpenAI از آن به عنوان «به اندازه کافی شفاف» دفاع کرد. این شرکت هوش مصنوعی بعداً پس از اینکه مشخص شد کاربران احساس می‌کنند برای به اشتراک گذاشتن عمومی چت‌های خصوصی فریب خورده‌اند، برای حذف چت‌ها از SERPهای گوگل تلاش کرد.

پکر به Ars گفت که تفاوت عمده بین آن افشاگری‌ها و افشای GSC این است که کاربرانی که از رسوایی قبلی آسیب دیده بودند، حداقل در سطحی، «باید فعالانه» چت‌های فاش شده خود را به اشتراک می‌گذاشتند. در مورد اخیر، «هیچ‌کس روی دکمه اشتراک‌گذاری کلیک نکرده» و راه معقولی برای جلوگیری از افشای چت‌های خود نداشته است.

پکر در وبلاگ خود این سؤال را مطرح کرد: «آیا OpenAI آنقدر سریع پیش رفت که پیامدهای حریم خصوصی این موضوع را در نظر نگرفت، یا اینکه آن‌ها اصلاً اهمیتی ندادند؟»

نگرانی‌ های باقی‌مانده: آیا مشکل واقعاً حل شده است؟

شاید نگران‌کننده‌تر از همه برای برخی کاربران—که هویتشان در چت‌ها فاش نمی‌شود مگر اینکه شاید پرامپت‌هایشان اطلاعات شناسایی را به اشتراک بگذارد—این باشد که به نظر می‌رسد هیچ راهی برای حذف چت‌های فاش شده از GSC وجود ندارد، برخلاف رسوایی قبلی.

پکر و مانیچ با «سؤالات بی‌پاسخ» در مورد اینکه «راه‌حل» OpenAI تا چه حد جلوی این مشکل را خواهد گرفت، باقی مانده‌اند.

مانیچ امیدوار بود که OpenAI تأیید کند که آیا پرامپت‌های وارد شده در https://chatgpt.com که باعث جستجوی گوگل می‌شوند نیز تحت تأثیر قرار گرفته‌اند یا خیر. اما OpenAI این سؤال یا سؤال گسترده‌تری در مورد بزرگی این افشاگری را پیگیری نکرد. از نظر مانیچ، یک نگرانی عمده این بود که اسکرپ کردن OpenAI ممکن است به «دهان تمساح» (crocodile mouth) در گوگل سرچ کنسول کمک کند، یک روند نگران‌کننده که محققان سئو به آن اشاره کرده‌اند و باعث افزایش شدید ایمپرشن‌ها (impressions) اما کاهش کلیک‌ها می‌شود.

آیا OpenAI اسکرپ کردن گوگل را متوقف کرده است؟

OpenAI همچنین از شفاف‌سازی بزرگترین سؤال پکر خودداری کرد. او کنجکاو است که آیا «راه‌حل» این شرکت صرفاً به «مسیریابی کوئری‌های جستجو» پایان داده است، به طوری که پرامپت‌های خام دیگر به جستجوی گوگل ارسال نمی‌شوند، «یا اینکه آن‌ها دیگر اصلاً جستجوی گوگل را برای داده‌ها اسکرپ نمی‌کنند؟»

پکر به Ars گفت: «ما هنوز نمی‌دانیم که آیا این فقط آن صفحه خاص است که این باگ را داشته یا اینکه این موضوع واقعاً گسترده است. در هر صورت، این جدی است و فقط نشان می‌دهد که OpenAI هنگام حرکت دقیق در مورد حریم خصوصی چقدر کم‌توجه است.»

به این پست امتیاز بدید

نظرات در مورد : رسوایی جدید OpenAI: افشای چت‌ لاگ‌ های خصوصی و «خجالت‌ آور» ChatGPT در گوگل سرچ کنسول

0 دیدگاه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *