محدود سازی توانایی هک هوش مصنوعی Kimi توسط استارت‌آپ Moonshot

استارت‌آپ نوپای مون‌شات (Moonshot AI) پیش از انتشار عمومی مدل هوش مصنوعی جدید خود، بال‌های هک آن را می‌چیند تا ضمن حفظ قدرت برنامه‌نویسی، از سوءاستفاده‌های سایبری جلوگیری کند.

به گزارش بخش اخبار فناوری زوم تک به نقل از Digital Trends، استارت‌آپ چینی هوش مصنوعی Moonshot AI به طور عمدی توانایی‌های هک جدیدترین مدل هوش مصنوعی خود را محدود می‌کند؛ موضوعی که چالش و معضل بزرگ و رو‌به‌رشدی را در این صنعت برجسته می‌سازد: شرکت‌ها چگونه می‌توانند هوش مصنوعی را قدرتمندتر سازند بدون آنکه اجرای حملات سایبری را آسان‌تر کنند؟

این شرکت در تاریخ ۲۴ اکتبر از مدل Kimi K3.1 Pro رونمایی کرد و آن را مدلی بسیار توانمند و متن‌باز (Open-weight) با حدود ۳ تریلیون پارامتر توصیف نمود. بر خلاف سرویس‌های سنتی هوش مصنوعی که کاملاً از طریق سرورهای ارائه‌دهنده اجرا می‌شوند، مدل‌های Open-weight به توسعه‌دهندگان اجازه می‌دهند فایل‌های پایه مدل را دانلود کرده، آن‌ها را روی سیستم‌های خود اجرا کنند و نحوه عملکردشان را تغییر دهند.

شرکت Moonshot اعلام کرد که داده‌های مرتبط با امنیت سایبری را از مجموعه داده‌های آموزشی (Training Dataset) و محیط‌های یادگیری تقویتی (Reinforcement Learning) این مدل حذف کرده است تا توانایی آن در انجام عملیات‌های سایبری تهاجمی کاهش یابد، در حالی که قابلیت‌های عمومی برنامه‌نویسی و کدنویسی آن حفظ شده است. این شرکت قصد دارد وزن‌های این مدل (Model Weights) را در تاریخ ۴ نوامبر منتشر کند تا در دسترس جامعه گسترده‌تری از توسعه‌دهندگان قرار گیرد.

کاهش قابلیت‌ های هک بدون آسیب به قدرت برنامه‌ نویسی

آزمایش‌های داخلی Moonshot نشان می‌دهد که این اقدامات امنیتی و محدودیتی، تأثیر ملموسی داشته‌اند. مدل Kimi K3.1 Pro در بنچمارک امنیت سایبری اختصاصی این شرکت — که شامل یافتن و سوءاستفاده از آسیب‌پذیری‌های نرم‌افزاری در یک محیط کنترل‌شده بود — امتیاز ۸۱ درصد را کسب کرد. این در حالی است که نسخه مشابه بدون اعمال اقدامات کاهش خطر، امتیاز ۹۰.۵ درصد را به دست آورده بود.

این تغییر نشان‌دهنده افت ۹.۵ واحد درصدی در امتیاز گزارش‌شده است. با این حال، این نتایج هنوز به صورت مستقل راستی‌آزمایی نشده‌اند و گزارش‌ها حاکی از آن است که این مدل همچنان عملکرد بهتری نسبت به نسل قبلی خود دارد.

این تمایز از اهمیت بالایی برخوردار است، زیرا توانایی‌های یکسان هوش مصنوعی هم می‌توانند در جهت دفاع و هم در جهت حمله مورد استفاده قرار گیرند. تیم‌های امنیتی می‌توانند از هوش مصنوعی برای شناسایی نقاط ضعف نرم‌افزار پیش از سوءاستفاده مجرمان استفاده کنند. در مقابل، مهاجمان نیز می‌توانند از مدل‌هایی که کد می‌نویسند، ابزارهای نرم‌افزاری را به کار می‌گیرند و وظایف چندمرحله‌ای را انجام می‌دهند، برای اتوماتیک‌سازی و خودکارسازی بخش‌هایی از یک حمله استفاده کنند.

شرکت Moonshot استدلال می‌کند که هوش مصنوعی Open-weight می‌تواند به سازمان‌ها در بررسی و ایمن‌سازی نرم‌افزارهای قدیمی یا فراموش‌شده کمک کند. اما زمانی که فایل‌های مدل به طور گسترده توزیع شوند، توسعه‌دهنده اصلی کنترل کمتری روی اینکه چه کسی از آن‌ها استفاده می‌کند و آیا تدابیر امنیتی همچنان موثر می‌مانند یا خیر، خواهد داشت.

نگرانی‌ های امنیتی هوش مصنوعی به یک مسئله سیاست‌گذاری جهانی تبدیل می‌شود

تصمیم Moonshot در حالی اتخاذ می‌شود که دولت‌ها و شرکت‌های فناوری نگران آن هستند که هوش مصنوعیِ روزبه‌روز توانمندتر، بتواند حملات سایبری پیچیده را ارزان‌تر و آسان‌تر کند. کشور چین نیز کنترل‌های صادراتی جدیدی را پیشنهاد داده است که فناوری‌های تولید بدافزار مبتنی بر هوش مصنوعی و برخی ابزارهای کشف آسیب‌پذیری با کمک هوش مصنوعی را هدف قرار می‌دهد. این پیشنهادات هنوز در مرحله نظرسنجی عمومی قرار دارند.

برای کسب‌وکارها و کاربران عادی، ابعاد این خطر فراتر از رایانه‌های فردی است. حملات خودکارتر می‌توانند فشار بر سازمان‌های مسئول حفاظت از اطلاعات شخصی، سیستم‌های مالی و زیرساخت‌های حیاتی را افزایش دهند. در عین حال، محدود کردن بیش از حد تحقیقات امنیت هوش مصنوعی نیز می‌تواند آسیب‌پذیری‌ها را ناشناخته باقی بگذارد.

مدل Kimi K3.1 Pro همچنین دارای یک پنجره بافت (Context Window) یک میلیون توکنی است که به آن اجازه می‌دهد حجم عظیمی از اطلاعات را به یکباره پردازش کند. علاوه بر این، Moonshot یک نسخه Highspeed نیز معرفی کرده است که به گفته آن ۲ تا ۳ برابر سریع‌تر از مدل استاندارد اجرا می‌شود.

آزمون بزرگ بعدی زمانی رخ خواهد داد که Moonshot وزن‌های مدل را در تاریخ ۴ نوامبر منتشر کند. در آن زمان، توسعه‌دهندگان و محققان امنیتی دسترسی بیشتری برای بررسی توانایی‌های آن خواهند داشت، در حالی که این صنعت با یک سوال دشوار روبرو است: آیا تدابیر امنیتی می‌توانند پس از در دسترس قرار گرفتن یک مدل قدرتمند هوش مصنوعی برای استفاده مستقل، همچنان موثر باقی بمانند؟