پیدا کردن باگ در DALL-E 3 متعلق به OpenAI و تولید تصاویر غیر اخلاقی

یک مهندس مایکروسافت، باگی در DALL-E 3 متعلق به OpenAI پیدا کرده که امکان دور زدن و تولید تصاویر غیراخلاقی را دارد

شین جونز، مدیر بخش مهندسی نرم‌افزار مایکروسافت، یک آسیب‌پذیری در مدل DALL-E 3 متعلق به OpenAI کشف کرده است. این مدل به خاطر تولید تصاویر بر اساس متن شناخته می‌شود. این آسیب‌پذیری به مدل اجازه می‌دهد محدودیت‌های هوش مصنوعی را دور زده و محتوای نامناسب و غیرمجاز تولید کند. پس از گزارش این موضوع به صورت داخلی، مایکروسافت به جونز حکم سکوت داده و او را از افشای این آسیب‌پذیری منع کرده است. با وجود این دستور، جونز به دلیل نگرانی‌های امنیتی، اطلاعات را به طور عمومی به اشتراک گذاشته است.

مایکروسافت باگ در DALL-E 3 را کم‌ اهمیت جلوه داد

جونز در تحقیقات مستقل در ماه دسامبر به این آسیب‌پذیری برخورد کرد. او به سرعت این موضوع را به مایکروسافت و OpenAI گزارش داد. جونز در یک نامه‌ی سرگشاده در لینکدین بر خطرات امنیتی ناشی از این آسیب‌پذیری تأکید کرد و از OpenAI درخواست کرد تا مدل DALL-E 3 را به طور موقت تا رفع این مشکل به حالت تعلیق درآورد. مایکروسافت به سرعت و با زور به جونز دستور داد تا پست لینکدین خود را بدون هیچ توضیحی حذف کند.

با وجود تلاش برای برقراری ارتباط داخلی با مایکروسافت برای حل این موضوع، جونز هیچ پاسخی دریافت نکرد. او که از اقدام برای این باگ ناامید شده بود، تصمیم گرفت این آسیب‌پذیری را به رسانه‌ها و مقامات مربوطه گزارش دهد. جونز این آسیب‌پذیری را به حوادث اخیر محتوای نامناسب تولید شده‌ی هوش مصنوعی که خواننده مشهور تیلور سویفت در آن‌ها حضور داشت، مرتبط کرد. طبق ادعا، این محتوا با استفاده از ویژگی هوش مصنوعی Designer مایکروسافت که توسط مدل DALL-E 3 پشتیبانی می‌شود، ساخته شده بود.

بخش حقوقی و مدیران ارشد مایکروسافت به جونز هشدار دادند که انتشار اطلاعات به بیرون را متوقف کند، اما آسیب‌پذیری همچنان رفع نشد. انگجت و سایر رسانه‌ها به دنبال پاسخ رسمی از مایکروسافت بودند و این شرکت را مجبور کردند نگرانی‌های مطرح شده توسط جونز را تأیید کنند. مایکروسافت اطمینان داد که به مسائل مطرح شده رسیدگی خواهد کرد و آسیب‌پذیری‌ها را برطرف خواهد ساخت.

با این حال، مایکروسافت با بیان اینکه میزان موفقیت این آسیب‌پذیری پایین بوده و نمی‌تواند به‌طور کامل از مکانیزم‌های امنیتی مایکروسافت عبور کند، آن را کم‌اهمیت جلوه داد. این شرکت همچنین در ارتباط بودن این آسیب‌پذیری با حادثه مرتبط با تیلور سویفت ابراز تردید کرد و بر لزوم تحقیقات بیشتر تأکید نمود.

این واقعه چالش‌ها و ملاحظات اخلاقی پیرامون فناوری هوش مصنوعی را برجسته می‌کند، به‌ویژه در مدیریت و رسیدگی به آسیب‌پذیری‌هایی که پتانسیل به خطر انداختن امنیت کاربران و تولید محتوای نامناسب را دارند.