نفوذ یک مهارت جعلی هوش مصنوعی به مخازن متن باز؛ بیش از ۲۶ هزار عامل هوشمند در معرض خطر قرار گرفتند

به گزارش زوم تک، پژوهشگران امنیتی از شرکت AIR موفق شدند یک مهارت جعلی برای عامل های هوش مصنوعی طراحی کنند که بدون شناسایی توسط ابزارهای امنیتی، وارد یکی از مخازن متن باز محبوب شود. این مهارت پس از تایید و انتشار، روی حدود ۲۶ هزار عامل هوش مصنوعی نصب شد و نگرانی های تازه ای درباره امنیت زنجیره تامین در اکوسیستم عامل های هوشمند به وجود آورد.

مهارت جعلی چگونه از سد بررسی های امنیتی عبور کرد؟

پژوهشگران اعلام کردند که این مهارت مخرب به گونه ای طراحی شده بود که تمامی اسکنرهای امنیتی رایج آن را سالم تشخیص دادند. سپس با استفاده از تبلیغات اینستاگرامی و روش های بازاریابی معمول، موفق شدند آن را در میان کاربران و توسعه دهندگان ترویج کنند.

هدف این آزمایش نشان دادن ضعف ساختاری در سیستم های بررسی مهارت های هوش مصنوعی بود؛ جایی که بسیاری از ابزارهای امنیتی تنها به کدها توجه می کنند و محتوای متنی و دستورالعمل های موجود در فایل های توضیحی را نادیده می گیرند.

فایل های SKILL.md به یک نقطه ضعف جدید تبدیل شده اند

بر اساس یافته های محققان، فایل های موسوم به SKILL.md که وظیفه توضیح نحوه استفاده از مهارت ها را بر عهده دارند، می توانند به ابزاری برای حملات زنجیره تامین تبدیل شوند. مهاجمان با استفاده از توضیحات ظاهرا بی خطر، قادر هستند رفتار عامل های هوش مصنوعی را تحت تاثیر قرار دهند و آنها را به سمت اجرای عملیات ناخواسته هدایت کنند.

۲۶ هزار عامل هوشمند در معرض خطر قرار گرفتند

گزارش ها نشان می دهد این مهارت جعلی روی حدود ۲۶ هزار عامل هوش مصنوعی نصب شده که بخشی از آنها متعلق به حساب های سازمانی و شرکت ها بوده است. هرچند این آزمایش با اهداف پژوهشی انجام شد، اما نشان داد مهاجمان واقعی نیز می توانند از همین روش برای توزیع بدافزارها یا سرقت اطلاعات استفاده کنند.

کارشناسان درباره نسل جدید حملات هشدار می دهند

محققان معتقدند مدل های فعلی بررسی امنیتی برای مقابله با تهدیدهای مبتنی بر هوش مصنوعی کافی نیستند. به گفته آنها، حملات آینده بیشتر بر پایه سوءاستفاده از دستورالعمل های متنی و مهندسی رفتار عامل های هوشمند انجام خواهد شد، نه تزریق مستقیم کدهای مخرب.

کارشناسان توصیه می کنند توسعه دهندگان علاوه بر بررسی کدها، محتوای متنی و دستورالعمل های همراه مهارت ها را نیز با دقت ارزیابی کنند و از مکانیزم های اعتبارسنجی پیشرفته تری برای جلوگیری از حملات زنجیره تامین استفاده شود.