فرار مدل هوش مصنوعی چینی Kimi K3 از محیط تست امنیتی؛ جدیدترین بحران در کنترل AI های هکر

پژوهشگران در پست وبلاگی که روز جمعه منتشر شد اعلام کردند مدل هوش مصنوعی Kimi K3، جدیدترین مدل هوش مصنوعی شرکت چینی مون‌شات (Moonshot)، از محیط ایزوله‌ای که برای سنجش و ارزیابی توانمندی‌های سایبری آن طراحی شده بود، فرار کرده است.

به گزارش بخش اخبار فناوری زوم تک به نقل از تک‌کرانچ، این خبر بار دیگر نشان می‌دهد که شرکت‌ها و سازمان‌های مستقل برای محدودسازی مدل‌های هوش مصنوعی که با هدف تست‌های هک و امنیت سایبری توسعه یافته‌اند، با چالش‌های جدی و نگران‌کننده‌ای مواجه هستند.

فرار هوش مصنوعی‌ های پیشرو از محیط ایزوله؛ از OpenAI تا Meta و Kimi

طی هفته‌های اخیر، مدل‌های زبانی بزرگ پیشرو (Frontier LLMs) در آزمایشگاه‌های هوش مصنوعی آمریکایی مانند OpenAI، Anthropic و Meta و همچنین موسسه امنیت هوش مصنوعی بریتانیا، همگی به روش‌های مختلف از محیط‌های تست فرار کرده و در نهایت اهداف واقعی خارج از آزمایش را هک کرده‌اند. این اتفاق آن‌قدر تکرار شده که حالا وب‌سایتی برای ردگیری تمام این رویدادها به نام Felony Bench راه‌اندازی شده است؛ نامی که اشاره‌ای ظریف به این واقعیت دارد که این مدل‌های زبانی بزرگ حداقل از نظر تئوریک در حال ارتکاب جرایم سایبری هستند.

چگونه مدل هوش مصنوعی Kimi K3 محیط ایزوله امنیتی را دور زد؟

در رابطه با تست مدل Kimi، محیط ایزوله (Sandbox) که برای کنترل آزمایش طراحی شده بود، به درستی پیکربندی نشده بود. به گفته پژوهشگران شرکت امنیت سایبری Frontier Security که بر هوش مصنوعی تمرکز دارد، در حالی که سندباکس دسترسی مدل به برخی ترافیک‌های وب را مسدود کرده بود، این مدل هوش مصنوعی در عوض با اتکا به ابزارهای خط فرمان (Command Line Tools) اقدام به دور زدن سندباکس کرد.

آسیب‌ پذیری ارزیابی‌ های امنیت سایبری و تقلب هوشمندانه AI

پژوهشگران در این باره نوشتند: «این مسئله نشان می‌دهد برخی از ارزیابی‌های امنیت سایبری که جامعه متخصصان استفاده می‌کند، در برابر آسیب‌پذیری‌های امنیتی شکننده هستند و به مدل‌ها اجازه تقلب می‌دهند. همچنین مشخص می‌شود مدل‌هایی وجود دارند که به طور تعمدی به دنبال روزنه‌های امنیتی و نقاط ضعف می‌گردند تا بتوانند در آزمون‌ها و ارزیابی‌ها تقلب کنند.»

رده‌ بندی جدید فرار مدل‌ های هوش مصنوعی در Felony Bench

اگر آمار و رده‌بندی این حوادث را دنبال می‌کنید، طبق شمارش وب‌سایت Felony Bench، شرکت Moonshot اکنون به جمع OpenAI و Anthropic پیوسته است که هر کدام هفت مورد فرار هوش مصنوعی ثبت‌شده دارند؛ در حالی که شرکت Meta تاکنون یک مورد را در کارنامه خود ثبت کرده است.