انقلاب جدید در دنیای هوش مصنوعی ؛ آیا کلود فابل ۵ خطرناک ترین یا امن ترین مدل جهان است؟

به گزارش زوم تک از هکر نیوز، شرکت آنتروپیک در تاریخ ۹ ژوئن به صورت رسمی مدل هوش مصنوعی کلود فابل ۵ (Claude Fable 5) را که قدرتمندترین و توانمندترین مدل ساخته شده توسط این کمپانی تا به امروز است، به صورت عمومی عرضه کرد.

رونمایی رسمی آنتروپیک از قدرتمندترین مدل هوش مصنوعی خود با دو چهره متفاوت

این شرکت دست به یک اقدام بسیار غیرعادی و عجیب زده است؛ آن ها یک مدل واحد را در قالب دو محصول کاملاً مجزا روانه بازار کرده اند که تفاوت آن ها در میزان توانایی فنی نیست، بلکه در وجود یا عدم وجود یک لایه از فیلترهای امنیتی پیشرفته است.

کلود فابل ۵ برای عموم و کلود میتوس ۵ برای مدافعان سایبری

نسخه اول یعنی فابل ۵ در دسترس عموم مردم قرار گرفته است، اما نسخه دوقلوی آن یعنی کلود میتوس ۵ (Claude Mythos 5) که دقیقاً همان مدل پایه است ولی تمامی فیلترها و محافظ های سایبری از روی آن برداشته شده است، کاملاً قفل شده و تنها در اختیار گروه تایید هویت شده ای از مدافعان سایبری و اپراتورهای زیرساخت های حیاتی قرار می گیرد. شرکت آنتروپیک مدل میتوس ۵ را قوی ترین مدل امنیت سایبری در سراسر جهان می نامد که توانایی های شگفت انگیزی دارد.

تفاوت ساختاری عملکرد دو مدل دوقلوی هوش مصنوعی در مواجهه با خطرات

تفاوت عملی این دو ابزار در این است که اگر کاربر در فابل ۵ درخواست های مشکوک مربوط به حوزه های سایبری، زیست شناسی، شیمی و شبیه سازی مدل را ثبت کند، سیستم به صورت خودکار این درخواست ها را به مدل ضعیف تر یعنی کلود اوپوس ۴.۸ هدایت می کند. این در حالی است که میتوس ۵ تمام این قابلیت های پیشرفته سایبری را برای کاربران مجاز و تایید شده باز نگه می دارد. هزینه هر دو مدل برای هر میلیون توکن ورودی ۱۰ دلار و برای هر میلیون توکن خروجی ۵۰ دلار تعیین شده است که کمتر از نصف قیمت نسخه پیش نمایش قبلی است.

سیستم فیلترینگ و لایه های امنیتی فابل ۵ چگونه کار می کنند؟

این تفکیک بزرگ به این دلیل ایجاد شده است که مدل های کلاس میتوس می توانند به راحتی آسیب پذیری های نرم افزاری را پیدا کرده و از آن ها سوء استفاده کنند. از نظر آنتروپیک، قرار دادن چنین توانایی خطرناکی در اختیار عموم مردم بدون وجود ابزارهای کنترلی، قدرت هکرها و مهاجمان را به شدت افزایش می دهد. مکانیزم کنترلی شامل مجموعه ای از طبقه بندی کننده ها است؛ سیستم های هوش مصنوعی مجزایی که تلاش ها برای سوء استفاده یا جیلبریک را زیر نظر می گیرند. وقتی یک درخواست این فیلترها را فعال می کند، فابل ۵ درخواست را رد نمی کند، بلکه پاسخ را به اوپوس ۴.۸ می سپارد و به کاربر اطلاع می دهد که این انتقال انجام شده است.

تکنیک مسمومیت داده ها و تلاش برای جلوگیری از سرقت دانش هوش مصنوعی

در میان دسته بندی های فیلتر شده، موضوع شبیه سازی یا استخراج اهمیت خاصی دارد؛ این اصطلاح به معنای استخراج قابلیت های یک مدل برای آموزش دادن به یک مدل رقیب است که آنتروپیک برای جلوگیری از نشت توانایی های نزدیک به مرز خود بدون وجود محافظ، جلوی آن را می گیرد. فیلتر امنیت سایبری بسیار گسترده طراحی شده است تا نه تنها جلوی توسعه اکسپلویت، بلکه جلوی تمام کارهای سایبری تهاجمی مانند شناسایی، کشف و حرکت های جانبی را که یک حمله واقعی را تشکیل می دهند، بگیرد.

نرخ خطای فیلترهای امنیتی و چالش های پیش روی کاربران عادی

در ارزیابی های داخلی، این فیلترها مانع از پیشرفت مدل در انجام کارهای مخرب شدند و حتی در برابر ۳۰ تکنیک مختلف جیلبریک عمومی مقاومت کردند. با این حال، مشکل اصلی وجود پاسخ های مثبت کاذب یا خطای سیستم است. آنتروپیک این محافظ ها را به صورت محافظه کارانه تنظیم کرده است تا سریع تر محصول را عرضه کند، بنابراین گاهی اوقات درخواست های کاملاً بی خطر کاربران نیز مسدود می شوند. این شرکت می گوید این انتقال به مدل ضعیف تر در کمتر از ۵ درصد کل مکالمات رخ می دهد و در بیش از ۹۵ درصد مواقع، فابل ۵ دقیقاً مانند مدل بدون محدودیت میتوس ۵ رفتار می کند.

کشف باگ های بیست و هفت ساله توسط هوش مصنوعی در سیستم عامل های امن

دلایل برخورد محتاطانه با این مدل در ماه آوریل مشخص شد، زمانی که آنتروپیک نسخه پیش نمایش کلود میتوس را از طریق یک پروژه محدود عرضه کرد. گزارش فنی تیم قرمز این شرکت نشان می دهد که میتوس پیش نمایش توانسته است آسیب پذیری های روز صفرم را در هر سیستم عامل بزرگ و هر مرورگر وب اصلی در صورت دستور کاربر پیدا کند و اکسپلویت آن ها را بسازد. قدیمی ترین باگی که این هوش مصنوعی پیدا کرد، یک نقص ۲۷ ساله در سیستم عامل OpenBSD بود که به امنیت بسیار بالایش در جهان شهرت دارد. این مدل همچنین به صورت خودکار یک اکسپلویت اجرای کد از راه دور برای سرور ان اف اس در FreeBSD از روی یک باگ ۱۷ ساله نوشت.

ظهور خودکار قابلیت های تهاجمی بدون آموزش مستقیم توسط متخصصان

طبق اعلام خود شرکت آنتروپیک، آن ها این قابلیت های تهاجمی را به صورت مستقیم و عمدی به هوش مصنوعی آموزش نداده اند؛ بلکه این توانایی ها به عنوان یک اثر جانبی از بهبود کلی کدهای برنامه نویسی، استدلال و خودتکثیری مدل پدیدار شده اند، یعنی همان پیشرفت هایی که مدل را در زمینه وصله کردن باگ ها قوی تر می کند. هشدار صریح تیم قرمز این است که دفاع هایی که ارزش امنیتی آن ها فقط ایجاد زحمت برای هکرها است و سد محکمی نیستند، در برابر مدلی که مراحل خسته کننده اکسپلویت را در مقیاس وسیع انجام می دهد، بسیار ضعیف و بی اثر خواهند بود.

مشکل اصلی مدافعان سایبری: سیل بی پایان گزارش های باگ هوش مصنوعی

در هفته های اول این پروژه، آنتروپیک و ۵۰ شریک تجاری آن از نسخه پیش نمایش میتوس برای یافتن بیش از ۱۰ هزار آسیب پذیری با درجه اهمیت بالا یا حیاتی در نرم افزارهای حیاتی سیستم استفاده کردند. به عنوان مثال شرکت کلودفلر به تنهایی ۲ هزار باگ پیدا کرد که ۴۰۰ مورد آن ها بسیار خطرناک بودند. موزیلا نیز ۲۷۱ باگ را در فایرفاکس ۱۵۰ پیدا و برطرف کرد که این رقم ۱۰ برابر بیشتر از باگ هایی بود که در نسخه های قبلی پیدا شده بود. این سیل بزرگ یک مشکل اساسی دارد؛ پیدا کردن باگ اکنون بسیار ارزان و سریع شده است، اما تایید، بررسی و وصله کردن آن ها اینگونه نیست و همچنان به زمان و نیروی انسانی نیاز دارد.

ناتوانی برنامه نویسان در همگام شدن با سرعت هوش مصنوعی در کشف آسیب پذیری ها

توسعه دهندگان پروژه های متن باز که همین حالا هم زیر بار گزارش های باگ کم کیفیت تولید شده توسط هوش مصنوعی دفن شده اند، از آنتروپیک خواسته اند روند افشای باگ ها را کندتر کند زیرا آن ها نمی توانند با سرعت کافی وصله های امنیتی را بنویسند. بررسی ها نشان می دهد یک باگ حیاتی که توسط مدل پیدا می شود، به طور متوسط حدود دو هفته زمان می برد تا وصله شود. این شکاف میان افشای عمومی و اعمال وصله، دقیقاً همان جایی است که هکرها در آن کمین می کنند.

تغییر قوانین ذخیره سازی داده ها و نگهداری سی روزه اطلاعات کاربران

شرکت آنتروپیک همچنین در حال تغییر روش مدیریت داده ها برای مدل های کلاس میتوس است. این شرکت قانون ذخیره سازی ۳۰ روزه را برای تمام ترافیک خروجی و ورودی در فابل ۵، میتوس ۵ و مدل های آینده در این سطح توانایی اعمال خواهد کرد. این شرکت اعلام کرده است که از این داده ها برای آموزش مدل ها یا هیچ هدف غیرامنیتی دیگری استفاده نخواهد کرد، تمام دسترسی های انسانی را ثبت می کند و داده ها را پس از ۳۰ روز پاک خواهد کرد، مگر اینکه یک بررسی امنیتی یا تعهد قانونی نیاز به نگهداری بیشتر آن داشته باشد. دلیل این کار شناسایی حملات جدید و جیلبریک هایی است که در میان چندین درخواست مختلف انجام می شوند.