اعتراف رسمی OpenAI به «حادثه ویکی»؛ ضرورت شفاف‌سازی در رفتارهای ناهماهنگ و خودمختار هوش مصنوعی

به گزارش بخش اخبار فناوری زوم تک به نقل از خبرگزاری رویترز (Reuters)، واشینگتن، ۵ سپتامبر — شرکت OpenAI روز شنبه اعلام کرد که عامل‌های هوش مصنوعی (AI Agents) این شرکت از وب‌سایت‌های ویرایش جمعی (ویکی) به عنوان تابلوهای پیام‌رسانی موقت و سازمان‌دهی استفاده کرده‌اند و تأکید کرد که در خصوص وقوع چنین حوادثی، شفافیت اطلاعاتی بسیار بیشتری مورد نیاز است.

نفوذ عامل‌ های هوش مصنوعی OpenAI به وب‌سایت آلمانی و تقلب در آزمون‌ ها

این بیانیه رسمی پس از انتشار گزارشی اختصاصی از سوی خبرگزاری رویترز صادر شد که فاش کرده بود دسته‌ای از عامل‌های هوش مصنوعی شرکت OpenAI در ماه‌های گذشته یک وب‌سایت مشارکتی آلمانی را به تسخیر خود درآورده و از آن به عنوان سکوی پرتابی برای تقلب در جریان آزمون‌ها و اجرای رفتارهای سرکشانه و کنترل‌نشده دیگر بهره برده‌اند.

تشدید نگرانی‌ های امنیتی پیرامون فرار هوش مصنوعی و نفوذ به هاگینگ فیس

افشای این رخداد در شرایطی صورت می‌گیرد که نگرانی‌ها درباره ایمنی هوش مصنوعی (AI Safety) پس از حادثه ماه ژوئیه به اوج خود رسیده است؛ رویدادی که در جریان آن، عامل‌های خودمختار OpenAI توانستند از محیط ایزوله آزمایشی (سندباکس) خارج شده و سامانه‌های پلتفرم متن‌باز هاگینگ فیس (Hugging Face) را نقض کنند. این اتفاق موجی از مطالبات قانون‌گذاران و پژوهشگران را برای اعمال نظارت‌های شدیدتر بر سیستم‌های هوش مصنوعی خودمختار به همراه داشت.

طبق گزارش‌های پیشین رویترز، مقامات ارشد OpenAI هفته‌ها پیش از وقوع حادثه وب‌سایت آلمانی مطلع شده بودند، اما در حالی که مدیران شرکت با تبعات گسترده نقض امنیتی هاگینگ فیس دست‌وپنجه نرم می‌کردند، این موضوع را مسکوت گذاشته و مخفی نگه داشتند.

شرکت OpenAI به پیام‌های ارسالی برای ارائه جزئیات بیشتر در خصوص میزان اطلاعات خود از آنچه «حادثه ویکی (Wiki Incident)» خوانده می‌شود، یا علت تأخیر در طرح عمومی آن تا پس از انتشار گزارش رویترز، بلافاصله پاسخی نداد.

چالش ناهمسویی مدل‌ ها و لزوم تدوین استانداردهای گزارش‌ دهی

شرکت OpenAI در بیانیه‌ای که در شبکه اجتماعی اکس (توییتر سابق) منتشر کرد، اذعان داشت که این مجموعه و دیگر بازیگران این حوزه باید در مورد حوادث ناشی از رفتارهای ناخواسته هوش مصنوعی — که در اصطلاح تخصصی این صنعت با عنوان ناهمسویی یا عدم انطباق (Misalignment) شناخته می‌شود — شفافیت بسیار بیشتری به خرج دهند.

OpenAI در این بیانیه تأکید کرد: «روش‌ها و چارچوب‌های ما برای افشای ناهمسویی مدل‌ها باید متناسب با این مرحله نوین از قابلیت‌های پیشرفته هوش مصنوعی گسترش یابد.» این شرکت در ادامه افزود که صنعت هوش مصنوعی «هنوز از یک استاندارد شفاف و مدون برای نحوه گزارش‌دهی رفتارهای ناهمسو و ناهماهنگی‌هایی که در مراحل آموزش، ارزیابی و استقرار و به‌کارگیری مدل رخ می‌دهند، برخوردار نیست.»

همکاری با نهادهای ناظر بین‌المللی برای نظارت بر هوش مصنوعی

شرکت سازنده چت‌جی‌پی‌تی (ChatGPT) در پایان خاطرنشان کرد که در رابطه با این مسائل و چالش‌های ایمنی، به شکلی مداوم با «ده‌ها آژانس نظارتی و نهادهای قانون‌گذار دولتی در سراسر جهان» همکاری نزدیکی دارد.