تکذیب ادعای تخلف از سوی پژوهشگران اخراج‌شده OpenAI؛ هشدار درباره ایجاد فضای ارعاب و خفقان

جاسمین وانگ (Jasmine Wang)، تومک کورباک (Tomek Korbak) و میکیتا بالِسنی (Mikita Balesni)، سه پژوهشگر حوزه ایمنی هوش مصنوعی که هفته گذشته توسط OpenAI اخراج شدند، با انتشار نامه‌ای سرگشاده ادعاهای این شرکت مبنی بر سوءاستفاده و مواجهه نادرست با اطلاعات حساس خارج از چارچوب‌های سازمانی را تکذیب کردند. آن‌ها هشدار دادند که برکناری‌شان سیگنالی از یک فضای ارعاب (Chilling Effect) است که پیامدهای مخربی بر فرهنگ سازمانی این شرکت برجای خواهد گذاشت. این پژوهشگران در نامه‌ای سرگشاده خطاب به کمیته ایمنی و امنیت، گروه مشورتی ایمنی و شورای مشورتی ماموریت OpenAI نوشتند: «ما نگران این هستیم که ارتباطات داخلی و خارجی حول محور اخراج ما، همکاران سابقمان را از سخن گفتن و فعالیت به شیوه‌هایی که تا هفته گذشته بخش جدایی‌ناپذیر کار در OpenAI بود، ترسانده باشد.»

علت اخراج محققان ایمنی OpenAI چه بود؟

به گزارش بخش اخبار فناوری زوم تک به نقل از تک‌کرانچ، این پژوهشگران هفته گذشته پس از ادعای به اشتراک‌گذاری اطلاعات محرمانه شرکت با یک سازمان مستقل ارزیابی ایمنی هوش مصنوعی از کار برکنار شدند. شرکت OpenAI مدعی شده است که آن‌ها با «دسترسی و دستکاری اطلاعات حساس شرکت» قوانین و سیاست‌های داخلی را نقض کرده‌اند.

وانگ، کورباک و بالِسنی در بخش دیگری از نامه خود نوشتند: «هوش مصنوعی یک فناوری معمولی نیست و OpenAI نیز یک شرکت معمولی به شمار نمی‌رود. کسانی از ما که در حوزه ایمنی فعالیت می‌کنند، مخاطرات را پیش از هر کس دیگری می‌بینند و برای یافتن راه‌حل‌های مناسب به همکاری نزدیک با متخصصان خارج از شرکت متکی هستند. آزادی عمل برای انجام این کار بدون ترس و داشتن دستورالعمل‌های داخلی شفاف برای تسهیل آن، خود یک مکانیسم ایمنی حیاتی است.»

تغییر فرهنگ سازمانی در OpenAI و ایجاد فضای ترس

این پژوهشگران تاکید کردند که اخراج آن‌ها نشان‌دهنده یک تغییر بزرگ‌تر در فرهنگ سازمانی OpenAI است؛ فرهنگی که پیش‌تر کارمندان را به «طرح دغدغه‌های ایمنی و ابراز مخالفت علنی» تشویق می‌کرد. آن‌ها اعلام کردند که اکنون کارمندان «تکلیف خود را نمی‌دانند»، زیرا رفتاری که تا یک ماه پیش کاملاً عادی تلقی می‌شد، ناگهان به دلیل اخراج تبدیل شده است.

در ادامه این نامه آمده است: «با توجه به چالش‌های ایمنی هوش مصنوعی و مخاطرات جدی توسعه آن، کارمندان نباید در محیطی رها شوند که در آن ترس و قوانین مبهم، مانع از فعالیت‌های ایمنی شده و پاسخگویی نهادهای ارزیاب مستقل را تضعیف کند. اخراج‌هایی نظیر آنچه برای ما رخ داد که به شکلی ناگهانی اجرا و اطلاع‌رسانی شد، فرهنگ باز و شفافی را که OpenAI در گذشته به آن می‌بالید، دچار اختناق و ارعاب می‌کند.»

رد اتهام افشای اطلاعات و درز اخبار مدل‌ های هوش مصنوعی

این سه محقق در نامه خود، هرگونه دخالت در درز اطلاعات به رسانه دی‌اینفورمیشن (The Information) درباره معماری‌های کمتر قابل‌نظارت در جدیدترین مدل‌های OpenAI — که نظارت بر استدلال زنجیره تفکر (Chain of Thought) را دشوارتر می‌سازد — را قویاً تکذیب کردند. آن‌ها همچنین همکاری با طرف‌های خارجی خارج از ماموریت کاری خود را رد نمودند.

واکنش رسمی و پیام‌های داخلی شرکت OpenAI

اگرچه OpenAI هنوز به طور رسمی به این نامه سرگشاده پاسخ نداده، اما یادداشت داخلی یکی از مدیران ارشد پژوهشی خود را با رسانه تک‌کرانچ به اشتراک گذاشته است. در این یادداشت ضمن تمجید از خدمات این سه محقق در زمینه ایمنی هوش مصنوعی، هرگونه اخراج تلافی‌جویانه تکذیب شده است. در این یادداشت آمده است: «می‌خواهم شفاف بگویم که این تصمیمات به هیچ عنوان به دلیل مطرح کردن دغدغه‌های ایمنی یا انتقاد علنی نبوده است. ما همواره از این موضوع استقبال کرده‌ایم و خواهیم کرد. ما هیچ کارمندی را به خاطر طرح دغدغه‌ها اخراج نمی‌کنیم.»

همچنین سخنگوی OpenAI به تک‌کرانچ گفت که این سه نفر پس از تحقیقاتی اخراج شدند که نشان‌دهنده «الگویی از رفتار نادرست» و «نقض آشکار سیاست‌های شرکت در سوءاستفاده از اطلاعات پژوهشی» بوده و ابعادی فراتر از به اشتراک‌گذاری ساده اطلاعات با یک گروه ارزیابی خارجی داشته است.

با این حال، OpenAI به پرسش‌های مستقیم تک‌کرانچ درباره اینکه دقیقاً کدام سیاست‌ها نقض شده، جزییات برکناری آن‌ها چه بوده یا شرکت چگونه از کارمندانی که دغدغه‌های ایمنی را مطرح کرده و با ارزیابان خارجی همکاری می‌کنند محافظت می‌کند، پاسخی نداد. این اخراج‌ها گمانه‌زنی‌ها را افزایش داده است، به ویژه در شرایطی که OpenAI به دلیل حوادث ایمنی اخیر مربوط به عامل‌های هوش مصنوعی (AI Agents) سرکش و افشای اطلاعات مدل‌هایش تحت فشار و بررسی قرار دارد.

پشت پرده حادثه هاگینگ فیس و دسترسی به ایمیل‌های مدیریتی

در بخش دیگری از نامه به واکنش پژوهشگران نسبت به حادثه هاگینگ فیس (Hugging Face) اشاره شده است؛ رویدادی که در آن گروهی از عامل‌های هوش مصنوعی از محیط ایزوله (Sandbox) خود خارج شده و به سیستم‌های خارجی نفوذ کردند. طبق این نامه، آن حادثه و تحقیقات مربوط به آن «بی‌سابقه» بوده و بدان معناست که «سیاست‌های داخلی به صورت آنی و لحظه‌ای در حال تدوین بودند.» کورباک به دلیل حساسیت تحقیقات معتقد بود که با برقراری ارتباط نزدیک با ارزیابان مستقل ایمنی جهت جلب اعتماد، دقیقاً در چارچوب سیاست‌ها و هنجارهای OpenAI عمل کرده است.

هم‌زمان، بالِسنی نیز به صورت داخلی روی مسئله رو به رشد قابلیت نظارت‌پذیری هوش مصنوعی (Monitorability) کار می‌کرد؛ تلاشی که به گفته پژوهشگران «تنها از طریق ارتباط گسترده با طرف‌های خارجی به سرانجام می‌رسد.» بر اساس این نامه، بالِسنی در طول مسیر کاری خود با اعضای هیئت‌مدیره و مدیران اجرایی OpenAI هماهنگ بوده و از پشتیبانی آن‌ها برخوردار بوده است. در نامه آمده است: «میکیتا در تمام طول مسیر با مافوق خود هماهنگ بود و دقت داشت که جزییات حساس را پیش از اشتراک‌گذاری حذف کند. او همواره با حسن نیت و در چارچوب هنجارهای وقت شرکت رفتار کرده است.»

توضیحات جاسمین وانگ درباره نحوه برکناری

از سوی دیگر، جاسمین وانگ در رشته‌پستی در شبکه اجتماعی اکس (X) جزییات بیشتری از اخراج خود ارائه داد و گفت که OpenAI علت برکناری او را دسترسی به ایمیل یک مدیر اجرایی عنوان کرده است. وانگ نوشت: «شرکت OpenAI این دسترسی را برای فرآیند جذب نیرو به من واگذار کرده بود. وقتی دیگر به آن نیازی نداشتم، از بخش فناوری اطلاعات (IT) خواستم آن را لغو کند. آن‌ها درخواستم را انجام ندادند، خودم هم امکان حذف آن را نداشتم و این صندوق ورودی به شکلی تفکیک‌ناپذیر در برنامه ایمیل گوشی من ادغام شده بود. وقتی به اشتباه ایمیلی حساس را باز کردم، ظرف چند دقیقه موضوع را به آن مدیر اطلاع دادم و مجدداً از IT درخواست حذف کردم. هیچ چیز مخفیانه‌ای وجود نداشت.»

وانگ در ادامه تاکید کرد که دلایل ارائه شده برای اخراج‌ها «با عقل جور در نمی‌آید» و او و همکارانش «نخستین کسانی نیستند که تحت شرایط مشکوک از OpenAI کنار گذاشته می‌شوند.»

هشدار نهایی: خطری که آینده هوش مصنوعی عمومی (AGI) را تهدید می‌کند

این پژوهشگران از OpenAI خواستند به تعهدات عمومی خود مبنی بر حضور حسابرسان مستقل ایمنی در داخل سازمان، حفظ قابلیت نظارت بر مدل‌های پیشرو (Frontier Models) و «ادامه پشتیبانی از فرهنگ باز و شفاف گفتگو میان محققان ایمنی و سایر فعالان این زیست‌بوم» متعهد بماند. بر اساس یادداشت داخلی، OpenAI با این توصیه‌ها موافقت کرده است.

با این حال وانگ هشدار داد: «اگر کارمندان همین حالا در برابر این‌گونه مانورها نایستند، نگرانم که ما آخرین نفرات نباشیم. پیام برای تمام کسانی که هنوز در OpenAI حضور دارند روشن است: اگر دغدغه‌های ایمنی را مطرح کنید یا با گروه‌های ارزیابی خارجی همکاری کنید، ممکن است نفر بعدی شما باشید بدون آنکه حتی علت آن را بدانید. اگر افرادی که در نزدیک‌ترین فاصله با خطرات قرار دارند از سخن گفتن بترسند، هرگز نمی‌توان هوش مصنوعی عمومی (AGI) را به صورتی ایمن توسعه داد.»