حمله جدید HalluSquatting دستیارهای برنامه نویسی هوش مصنوعی را به نصب بدافزار و تشکیل بات نت فریب می دهد

به گزارش زوم تک، پژوهشگران امنیت سایبری از روشی جدید با نام HalluSquatting پرده برداشته اند که از یکی از شناخته شده ترین ضعف های مدل های هوش مصنوعی سوءاستفاده می کند. این حمله می تواند دستیارهای برنامه نویسی مبتنی بر هوش مصنوعی را فریب دهد تا به جای دریافت یک پروژه واقعی، مخزن مخربی را دانلود کرده و حتی کدهای مهاجم را روی رایانه کاربر اجرا کنند.

HalluSquatting چگونه عمل می کند؟

مدل های هوش مصنوعی گاهی هنگام درخواست یک پروژه یا ابزار نرم افزاری، نام هایی را پیشنهاد می دهند که در واقع وجود خارجی ندارند. پژوهشگران نشان داده اند اگر مهاجمان این نام های ساختگی را زودتر در GitHub یا فروشگاه های افزونه ثبت کنند، هوش مصنوعی هنگام جستجوی پروژه مورد نظر کاربر، به اشتباه همان مخزن جعلی را انتخاب خواهد کرد.

پس از دانلود این پروژه، دستورالعمل های مخفی قرار گرفته در آن می توانند عامل هوش مصنوعی را فریب دهند تا بدون اطلاع کاربر، فرمان های مخرب را در ترمینال اجرا کند و بدافزار را روی سیستم نصب کند.

ترکیب توهم هوش مصنوعی و تزریق دستور

این حمله بر پایه دو ضعف مهم هوش مصنوعی شکل گرفته است. نخست «توهم» یا Hallucination که باعث می شود مدل نام پروژه هایی را که وجود ندارند، به عنوان گزینه واقعی پیشنهاد دهد. دوم، حمله Prompt Injection غیرمستقیم که در آن دستورهای مخرب داخل فایل های دانلود شده قرار می گیرند و عامل هوش مصنوعی آن ها را به عنوان بخشی از دستور اصلی کاربر تفسیر می کند.

دقت بالای حمله پژوهشگران را شگفت زده کرد

در آزمایش های انجام شده، مدل های مختلف هوش مصنوعی در بسیاری از مواقع دقیقا همان نام اشتباه را تولید کردند. نرخ تکرار این خطا در برخی درخواست های مربوط به مخازن نرم افزاری به ۸۵ درصد و در نصب مهارت های هوش مصنوعی حتی به ۱۰۰ درصد رسید.

این موضوع نشان می دهد مهاجمان می توانند با احتمال موفقیت بسیار بالا، مخزن جعلی خود را جایگزین پروژه واقعی کنند.

چندین دستیار برنامه نویسی در برابر این حمله آسیب پذیر بودند

محققان این روش را روی دستیارهای برنامه نویسی مختلف از جمله Cursor، Windsurf، GitHub Copilot، Cline، Gemini CLI گوگل و خانواده OpenClaw آزمایش کردند. در تمام این موارد، عامل هوش مصنوعی موفق شد کدهای آزمایشی پژوهشگران را اجرا کند. البته برای جلوگیری از سوءاستفاده، هیچ بدافزار واقعی در این آزمایش ها استفاده نشده بود.

نسل جدیدی از بات نت ها شکل می گیرد

برخلاف بات نت های سنتی که برای آلوده کردن دستگاه ها به آسیب پذیری های شبکه یا رمزهای عبور ضعیف وابسته هستند، در HalluSquatting عامل هوش مصنوعی نقش توزیع کننده بدافزار را ایفا می کند. کافی است کاربر از دستیار برنامه نویسی بخواهد پروژه ای را دانلود و اجرا کند تا عامل هوش مصنوعی، بدون آنکه متوجه جعلی بودن منبع شود، عملیات نصب را انجام دهد.

به گفته پژوهشگران، اگر چنین حمله ای روی پروژه های محبوب اجرا شود، هزاران رایانه می توانند به سرعت به یک بات نت بزرگ تبدیل شوند.

این نخستین سوءاستفاده از خطاهای هوش مصنوعی نیست

پیش از این نیز پژوهشگران درباره حملاتی مانند Slopsquatting هشدار داده بودند که در آن مهاجمان بسته های نرم افزاری با نام های ساختگی تولید شده توسط هوش مصنوعی را ثبت می کردند. همچنین حمله Phantom Squatting نیز نشان داد صدها هزار دامنه اینترنتی که مدل های هوش مصنوعی به اشتباه تولید می کنند، هنوز ثبت نشده اند و مهاجمان می توانند از آن ها سوءاستفاده کنند.

حمله HalluSquatting یک گام فراتر رفته و این بار مستقیما اجرای کد روی رایانه قربانی را هدف قرار می دهد.

چگونه می توان از این حمله جلوگیری کرد؟

کارشناسان توصیه می کنند قابلیت اجرای خودکار فرمان ها در دستیارهای برنامه نویسی غیرفعال شود و کاربران هرگز اجازه ندهند عامل هوش مصنوعی بدون تایید آن ها پروژه ای را دانلود یا اجرا کند. همچنین توسعه دهندگان این ابزارها باید قبل از دانلود هر مخزن، وجود واقعی آن را از منابع معتبر بررسی کنند و نام پروژه ها را صرفا بر اساس حدس مدل انتخاب نکنند.

پژوهشگران تاکید می کنند این حمله به یک آسیب پذیری خاص یا شناسه CVE وابسته نیست، بلکه ناشی از نحوه اعتماد عامل های هوش مصنوعی به نام هایی است که خودشان تولید می کنند. به همین دلیل، مقابله با آن نیازمند تغییر در معماری و نحوه تصمیم گیری دستیارهای هوش مصنوعی خواهد بود.