تلاش مایکروسافت برای مهار خطرات امنیتی «ایجنت‌ های هوش مصنوعی» در ویندوز ۱۱ + جزئیات

مایکروسافت سال‌هاست که در حال افزودن قابلیت‌های هوش مصنوعی به ویندوز ۱۱ است، اما اخیراً با ورود ویژگی‌های مولد (Generative) و به‌اصطلاح «عامل‌گرا» (Agentic) به لایه‌های عمیق‌تر سیستم‌عامل، وارد فاز جدیدی شده است. ایجنت‌هایی که دسترسی خواندن و نوشتن به فایل‌های شما دارند، می‌توانند چالش‌های بزرگی برای امنیت و حریم خصوصی ایجاد کنند.

ورود به عصر جدید ایجنت‌ های هوشمند در ویندوز

به گزارش بخش اخبار فناوری زوم تک به نقل از Ars Technica، بیلد جدیدی از ویندوز ۱۱ که روز گذشته برای آزمایش‌کنندگان برنامه «ویندوز اینسایدر» (Windows Insider) منتشر شد، شامل یک گزینه جدید با عنوان «ویژگی‌های آزمایشی عامل‌گرا» در بخش تنظیمات است. این گزینه برای پشتیبانی از قابلیتی به نام Copilot Actions طراحی شده و مایکروسافت مقاله‌ای را برای تشریح جزئیات نحوه عملکرد این ویژگی‌های آزمایشی منتشر کرده است.

اگر با این مفهوم آشنا نیستید، باید بگوییم که «Agentic» یا «عامل‌گرا» یک اصطلاح پرطرفدار است که مایکروسافت بارها برای توصیف جاه‌طلبی‌های آینده خود برای ویندوز ۱۱ از آن استفاده کرده است. به زبان ساده‌تر، این ایجنت‌ها (Agents) قرار است وظایف محول شده را در پس‌زمینه انجام دهند و به کاربر اجازه دهند تا توجه خود را به جای دیگری معطوف کند. مایکروسافت می‌گوید می‌خواهد این ایجنت‌ها قادر به انجام «کارهای روزمره مانند سازماندهی فایل‌ها، زمان‌بندی جلسات یا ارسال ایمیل» باشند و Copilot Actions باید به شما یک «همکار دیجیتالی فعال بدهد که بتواند وظایف پیچیده را برای افزایش کارایی و بهره‌وری شما انجام دهد».

خطرات نوین امنیتی و راهکارهای مایکروسافت

اما مانند سایر انواع هوش مصنوعی، این ایجنت‌ها نیز می‌توانند مستعد خطا و توهمات (Confabulations) باشند و اغلب به گونه‌ای پیش می‌روند که گویی می‌دانند چه می‌کنند، حتی زمانی که واقعاً نمی‌دانند. همچنین به گفته خود مایکروسافت، آن‌ها «خطرات امنیتی جدیدی» را ارائه می‌دهند که عمدتاً مربوط به اتفاقاتی است که اگر یک مهاجم بتواند دستورالعمل‌هایی را به یکی از این ایجنت‌ها بدهد، رخ می‌دهد. در نتیجه، پیاده‌سازی مایکروسافت مانند راه رفتن روی طنابی باریک بین دادن دسترسی فایل‌ها به این ایجنت‌ها و جدا کردن آن‌ها از بقیه سیستم است.

اقدامات حفاظتی و جداسازی حساب‌ ها

برای مثال، به ایجنت‌های هوش مصنوعی که روی یک رایانه شخصی اجرا می‌شوند، حساب‌های کاربری جداگانه‌ای از حساب شخصی شما داده می‌شود. این کار تضمین می‌کند که آن‌ها اجازه تغییر همه چیز را در سیستم ندارند و به آن‌ها «دسکتاپ» مخصوص به خود را برای کار می‌دهد که با آنچه شما روی صفحه نمایش خود کار می‌کنید تداخل نخواهد داشت. کاربران باید درخواست‌های ایجنت برای دسترسی به داده‌ها را تأیید کنند و «تمام اقدامات یک ایجنت قابل مشاهده و قابل تمایز از اقدامات انجام شده توسط کاربر است». مایکروسافت همچنین می‌گوید ایجنت‌ها باید قادر به تولید گزارش‌هایی (Logs) از فعالیت‌های خود باشند و «باید وسیله‌ای برای نظارت بر فعالیت‌های آن‌ها فراهم کنند»، از جمله نشان دادن لیستی از اقداماتی که برای انجام یک وظیفه چندمرحله‌ای انجام خواهند داد به کاربران.

آسیب‌ پذیری‌ های مداوم و دسترسی به فایل‌ ها

اما این پادمان‌ها و قابلیت‌های نظارتی، این واقعیت را تغییر نمی‌دهند که شما با استفاده از ایجنت‌های هوش مصنوعی، خود را در معرض خطرات حریم خصوصی و امنیتی قرار می‌دهید. آن‌ها قادر خواهند بود درخواست دسترسی خواندن و نوشتن به اکثر فایل‌های موجود در حساب کاربری شما را داشته باشند؛ به‌طور پیش‌فرض، هر چیزی که در پوشه‌های اسناد (Documents)، دانلودها، دسکتاپ، موسیقی، تصاویر و ویدیوها قرار دارد.

آن‌ها به هر برنامه‌ای که برای همه کاربران روی رایانه نصب شده باشد دسترسی خواهند داشت (برنامه‌هایی که فقط در حساب کاربری شما نصب شده‌اند برای ایجنت قابل دسترسی نخواهند بود و همچنین کاربران می‌توانند برنامه‌هایی را نصب کنند که فقط ایجنت‌هایشان بتوانند به آن‌ها دسترسی داشته باشند). علاوه بر این، ایجنت‌ها به‌طور بالقوه می‌توانند در برابر ربوده شدن (Hijacking) آسیب‌پذیر باشند که داده‌های شما را در معرض مهاجمان قرار می‌دهد. مایکروسافت به‌طور خاص به «تزریق دستور متقابل» (XPIA) اشاره می‌کند، جایی که «محتوای مخرب جاسازی شده در عناصر رابط کاربری یا اسناد می‌تواند دستورالعمل‌های ایجنت را لغو کند و منجر به اقدامات ناخواسته مانند استخراج داده‌ها یا نصب بدافزار شود».

وضعیت فعلی و آینده: احتیاط پس از تجربه Recall

در حال حاضر، این ویژگی‌ها را می‌توان با یک دکمه در تنظیمات خاموش کرد و به‌طور پیش‌فرض نیز خاموش هستند. این احترام به اولویت کاربر، به همراه سند پشتیبانی طولانی که خطرات و اقدامات احتیاطی مایکروسافت را شرح می‌دهد، حداقل نشان می‌دهد که مایکروسافت از عرضه ناموفق ویژگی داده‌کاوی Windows Recall در سال گذشته درس‌هایی گرفته است.

امیدواریم زمانی که این ویژگی‌ها برای عموم مردم عرضه می‌شوند، همچنان به‌طور پیش‌فرض کاملاً خاموش باقی بمانند. در غیر این صورت، آن‌ها در خطر تبدیل شدن به یکی دیگر از موارد متعددی هستند که اگر می‌خواهید پیشنهادات مختلف ابری و هوش مصنوعی سیستم‌عامل سر راهتان نباشد، باید در یک نصب مدرن ویندوز ۱۱ تغییر دهید یا خاموش کنید.

در کنار این ایجنت‌های هوش مصنوعیِ در راه، مایکروسافت همچنین در تلاش است تا کوپایلت (Copilot) را «انسان‌محورتر» و قابل‌ دسترس‌تر کند. این کار با افزودن یک شخصیت انیمیشنی شبیه به «Clippy» به نام «Mico» و بهبود توانایی آن در درک ورودی صوتی و همچنین درخواست‌های معمول ماوس و کیبورد انجام می‌شود.