امنیت به روش اعتماد صفر برای هوش مصنوعی با حل بحران عدم دید و نظارت آغاز می شود

به گزارش زوم تک از هکر نیوز، نحوه گفتمان ما پیرامون عامل های هوش مصنوعی در حال دگرگونی است و شیوه پیاده سازی و اجرای عملیاتی آن ها نیازمند یک تحول بنیادین تر است. در حالی که مباحثات اولیه به صورت عمده بر سرعت استقرار عامل ها توسط سازمان ها و میزان بهره وری وعده داده شده تمرکز داشت، مجموعه ای از رویدادها و حوادث امنیتی اخیر، از جمله نفوذ گسترده و پر سر و صدا به پلتفرم هاگینگ فیس در جریان ارزیابی عامل های شرکت اوپن ای آی، سازمان ها را بر آن داشته است تا بررسی کنند آیا شتاب در پیاده سازی از توانایی ایمن سازی دارایی های مستقر شده فراتر رفته است یا خیر.

تغییر رویکرد سازمان ها از سرعت استقرار به تامین امنیت عامل های هوش مصنوعی

تیم های امنیتی اکنون به صورت فزاینده ای این سوال حیاتی را مطرح می کنند که یک عامل هوش مصنوعی پس از اجرا توانایی دسترسی به چه بخش هایی را دارد و آیا کسی پیش از وقوع یک حادثه متوجه فعالیت های آن خواهد شد؟ اگرچه ورود مستقیم به لایه های اعمال سیاست و راهکارهای شناسایی بسیار وسوسه انگیز به نظر می رسد، اما پیش از هر اقدامی باید ارزیابی دقیقی از وضعیت موجود داشت.

خطر گسترش هوش مصنوعی سایه و دسترسی غیر مجاز به داده های حساس شرکتی

یافته های پژوهشی شرکت ویم نشان می دهد که هفتاد درصد سازمان ها اذعان دارند جریان های کاری هوش مصنوعی بدون نظارت کامل سازمانی با داده های به شدت محرمانه شرکت ها در تماس هستند. همچنین شصت و هفت درصد گزارش داده اند که بخش فناوری اطلاعات نمی تواند جریان های کاری خودکاری را که کارکنان به صورت مستقل ایجاد می کنند به شکل کامل ردیابی و پایش کند. پدیده هوش مصنوعی سایه تنها یکی از موانع دستیابی به دید و شفافیت کامل در مورد عامل های هوش مصنوعی به شمار می رود، اما این مسئله نشان می دهد که چگونه برداشتن گام نخست در امنیت می تواند به سرعت از کنترل خارج شود. اصول معماری اعتماد صفر می تواند از برنامه های حاکمیت هوش مصنوعی پشتیبانی کند، به شرط آنکه مراحل آن با ترتیبی کاملا منطقی و اصولی پیش برود. اصل بنیادین و بنیادین فهرست امنیتی موسسه سنز با عنوان اعتماد صفر برای عامل های هوش مصنوعی تاکید می کند که شما نمی توانید چیزی را که نمی بینید مدیریت و حاکمیت کنید. این فهرست به دلایل فنی، ایجاد صورت دارایی ها را مقدم بر اعمال هرگونه سیاست کنترلی قرار داده و آن را به عنوان یک پیش نیاز اساسی مطرح کرده است. در عمل، سازمان ها ممکن است مستقیم به سراغ نقاط اعمال سیاست یا سازوکارهای احراز هویت برای عاملی بروند که نه مالک مشخصی دارد، نه حیطه وظایف آن تعریف شده و نه نامی از آن در فهرست دارایی ها ثبت شده است. این ترتیب اشتباه در عملیات دقیقا نشان دهنده نقطه شکست برنامه های اعتماد صفر است، چرا که قرار دادن یک لایه پروکسی یا احراز هویت در برابر جمعیت ناشناخته ای از عامل ها، هیچ بازده امنیتی واقعی به همراه نخواهد داشت.

چالش نخست؛ استفاده از عامل های هوش مصنوعی به عنوان جلوه جدید فناوری اطلاعات سایه

در هر فناوری نوظهور، ابتدا موج پذیرش عمومی شکل می گیرد و سپس چارچوب های نظارتی و حاکمیتی در پی آن می آیند. زمانی که تیم های امنیتی متوجه این شکاف می شوند، نخستین واکنش معمولا رفتارهای بازدارنده و سلبی مانند مسدود سازی ابزارهای تایید نشده، قطع دسترسی ها یا خاموش کردن هر سامانه ناشناخته است. بودجه و توجه سازمانی نیز عموما به سوی این روش ها هدایت می شود، اما مسدود کردن سیستم ها پیش از ایجاد یک تصویر روشن از آنچه اکنون فعال است، خطر متوقف کردن فرایندهای مشروع کاری را در کنار سیستم های سایه به همراه دارد. با وجود اینکه معضل فناوری اطلاعات سایه سال ها در حوزه های دیگر فناوری شناخته شده و مدیریت شده است، اما رویکرد ما در برخورد با این چالش در حوزه هوش مصنوعی هنوز در مراحل ابتدایی قرار دارد.

تحلیل رویکرد مهاجمان در سوءاستفاده از سیستم های ثبت نشده هوش مصنوعی

زمانی که یک عامل هوش مصنوعی از دید تیم امنیت پنهان است، نفوذگران برای نفوذ و ایجاد جای پا نیازی به انجام حملات پیچیده نخواهند داشت. یک نمونه اخیر در رویدادهای امنیتی، اتفاقی بود که در موسسه غیرانتفاعی ام ای تی آر رخ داد. مهاجمان در این حادثه نمونه شخصی یکی از کارکنان را روی سرویس ابری آمازون شناسایی کردند که برنامه ای مبتنی بر هوش مصنوعی را اجرا می کرد. سپس با دور زدن آسان احراز هویت، عامل هوش مصنوعی را وادار کردند تا کلید دسترسی رابط برنامه نویسی ارائه دهنده مدل خود را در اختیار مهاجم بگذارد. در طول مدت سه هفته، مهاجم توکن هایی به ارزش معادل ششصد هزار دلار را مصرف کرد، زیرا هیچ سقف هزینه ای برای کلید رابط برنامه نویسی تعریف نشده بود. داشبورد داخلی شرکت نیز داده های مربوط به محدودیت نرخ درخواست ها را نشان نمی داد و حجم مصرف به تنهایی برای جلب توجه تیم های نظارتی کافی نبود.

راهکارهای مدافعان امنیتی برای شناسایی و کنترل دارایی های هوش مصنوعی

فناوری ابری نیز در گذشته دوران گذار و چالش های رشدی مشابهی را تجربه کرده است و می توان برای رسیدن به نظارت شفاف از همان الگوها بهره برد. امروزه همه سازمان ها کنترل های سخت گیرانه ای پیرامون فضای ابری دارند، مانند نظارت مستمر بر هزینه ها و میزان مصرف منابع یا اطمینان از حذف ماشین های مجازی بی استفاده؛ اما هنوز چنین رویکردی برای عامل های هوش مصنوعی اعمال نمی شود. بررسی هزینه های هوش مصنوعی و فرایند صدور کلیدهای رابط برنامه نویسی باید به عنوان سیگنال های اصلی کشف دارایی ها تلقی شوند. بخش های مالی و تدارکات نیز زوایای دید مهم دیگری هستند که نباید نادیده گرفته شوند. پیش از مسدود سازی هرگونه سیستم، باید مسیر استفاده از ارائه دهندگان مجاز اعلام شود تا استفاده های کاری و قانونی متوقف نشوند. از نظر اولویت های عملیاتی نیز همیشه باید اصل اول شناخت، سپس محدودسازی رعایت شود.

چالش دوم؛ ناتوانی یک ابزار واحد در ارائه تصویر کامل امنیتی

حتی زمانی که سازمانی به طور کامل خود را متعهد به کشف و شناسایی دارایی ها می داند، هیچ ابزار یا دریچه دید منحصر به فردی وجود ندارد که بتواند کل جامعه عامل های فعال را آشکار سازد. عامل ها در سراسر زیرساخت شبکه، دستگاه های نهایی، مرورگرها و درون نرم افزارهای ابری متفرقه پراکنده هستند و تکیه بر هر لنز انفرادی، نقاط کور بزرگی بر جای می گذارد. ترافیک به سمت ارائه دهندگان مدل ها با پروتکل امنیتی رمزگذاری می شود؛ بنابراین یک حسگر میانی شبکه صرفا مقصد و حجم بایت ها را می بیند و توانایی مشاهده پرامپت ارسالی، فراخوانی ابزارها یا سرقت داده ها را ندارد، زیرا ترافیک اغلب به همان دامنه هایی ارسال می شود که برنامه های مجاز سازمانی نیز از آن ها استفاده می کنند. از این رو تحلیل شبکه به تنهایی نمی تواند این جریان ها را متمایز کند، ابزارهای مدیریت نقاط پایانی هوش مصنوعی تعبیه شده در مرورگر را نادیده می گیرند و هوش مصنوعی موجود در نرم افزارهای ابری از دید هر دوی این سامانه ها پنهان می ماند.

بررسی زاویه دید تهاجمی به ابزارهای هوش مصنوعی مستقر در مرورگر

فرض کنید یک کارشناس بازاریابی افزونه ای بر پایه مرورگر نصب کند که وظیفه آن خلاصه سازی اطلاعات مشتریان و پیش نویس ایمیل های خروجی است. ابزارهای امنیتی مستقر روی کامپیوتر کاربر هیچ گاه این افزونه را شناسایی نمی کنند زیرا درون محیط مرورگر اجرا می شود. سیستم های نظارت بر شبکه نیز تنها ترافیک رمزگذاری شده ای را می بینند که به سمت دامنه ای معتبر و میزبان ده ها محصول مجاز ارسال می شود. در چنین حالتی این ابزار و هر مهاجمی که بتواند به آن نفوذ کند، به داده های حساس یک سامانه مدیریت ارتباط با مشتری دسترسی خواهد داشت، بدون آنکه بخش امنیت از وجود چنین ابزاری باخبر باشد.

همبستگی داده ها و استفاده از دروازه های هوش مصنوعی برای ایجاد نظارت جامع

بازیابی قدرت دید در لایه های امنیتی به معنای دست کشیدن از اتکا به یک منبع تنها و ایجاد همبستگی میان داده های گوناگون است تا بتوان تصویری فراگیر ساخت. با وجود اینکه ترافیک می تواند به آسانی استتار شود یا درون ابزارهای خط فرمان پنهان گردد، داده های جانبی نظیر سامانه نام دامنه و لاگ های پروکسی خروجی نشان می دهند که ارتباطی با ارائه دهنده یک مدل برقرار شده است. باید دید نظارتی شبکه را با داده های دریافتی از سامانه های پایانی ترکیب کرد؛ اطلاعاتی نظیر فرایندهای اجرایی فعال، کلیدهای دسترسی ذخیره شده در متغیرهای محیطی یا محیط های اجرایی عامل های محلی. همچنین بررسی لاگ های مرورگرهای سازمانی، افزونه ها، مجوزهای دسترسی دست باز و پنل های مدیریتی ارائه دهندگان در این مسیر ضروری است. یکپارچه سازی این نشانه ها امکان تولید فهرست دقیق دارایی ها را فراهم می سازد. دروازه های واسط مانند لایت ال ال ام می توانند نظارت و مدیریت سیاست ها را یکپارچه کنند، اما این ابزارها تنها قادرند عاملی را کنترل کنند که از پیش به سمت آن ها تنظیم شده است؛ امری که بار دیگر اهمیت داشتن یک فهرست کامل از دارایی ها را نشان می دهد.

چالش سوم؛ لزوم هماهنگی ممیزی های امنیتی با سرعت تحولات هوش مصنوعی

ممیزی های سنتی و شیوه های قدیمی پایش برای حفظ اشراف امنیتی کارایی لازم را ندارند. بررسی هایی که به صورت سالانه انجام می شوند تنها وضعیت دارایی های گذشته را منعکس می کنند که ارزش چندانی در محیط های پویا ندارد. در شرایطی که ایجاد و تکثیر یک عامل هوش مصنوعی تنها چند ثانیه زمان می برد، تا پایان چرخه یک بازبینی دوره ای، نتایج استخراج شده عملا از درجه اعتبار ساقط شده اند. نظارت مستمر و بی وقفه راهکاری شفاف به نظر می رسد، اما حذف کامل انسان از این چرخه خطرات دیگری را به وجود می آورد.

استفاده از هویت مستقل و دکمه قطع اضطراری برای مهار رفتارهای مخرب عامل ها

اگر یک سازمان صرفا متکی به ممیزی های مقطعی باشد، نفوذگر می تواند با سوءاستفاده از یک عامل آسیب دیده، نسخه های مشابهی با طول عمر بسیار کوتاه بسازد تا ماموریتی خاص را انجام دهند. هر نسخه دسترسی های والد خود را به ارث می برد و پس از انجام عملیاتی نظیر سرقت اطلاعات بلافاصله از بین می رود، بسیار پیش از آنکه ممیزی های بعدی ردپایی از آن ثبت کنند. برای برون رفت از این تهدید، حضور ناظر انسانی در کنار نظارت متقابل عامل ها بر یکدیگر ضروری است، اما در هر حال مسئولیت نهایی باید بر عهده اشخاص حقیقی باشد. فشارهای قانونی اخیر در کشورهایی مانند آمریکا برای تعبیه سازوکار قطع اضطراری نشان دهنده اهمیت جدی مهار رفتارهای خارج از کنترل است، هرچند فشردن دکمه قطع اضطراری زمانی معنا دارد که هدف به طور شفاف شناسایی شده باشد. علاوه بر این، باید به هر عامل یک هویت مستقل از کاربر اختصاص داد و ثبت رویدادها را به جای پرامپت ها، بر ثبت فراخوانی ابزارها و رفتارهای عملیاتی عامل متمرکز ساخت.

موقعیت برنامه های دفاعی و ترتیب اصولی اجرای کنترل های امنیتی

جایگاهی که دید و اشراف امنیتی در مراحل اجرایی به خود اختصاص می دهد، سنگ بنای تمامی اقدامات حاکمیتی و مراقبتی بعدی است. تمامی موانع مورد بحث به یک ریشه مشترک ختم می شوند؛ لایه امنیتی که پیش از ایجاد فهرست دارایی ها شکل بگیرد، هدفی عینی برای محافظت نخواهد داشت. ساختار صحیح نیازمند آن است که ابتدا دارایی ها شناسایی شوند، منابع داده ای پایش و همبسته گردند و نظارت مستمر با اختصاص هویت مستقل به هر عامل استقرار یابد. این رویکرد گام به گام سه گانه یعنی ایجاد فهرست و حاکمیت، معماری و اعمال سیاست، و در نهایت شناسایی و پاسخ به تهدیدات است که موفقیت مدل های دفاعی مدرن را تضمین می کند.