فریب یک سند آلوده: اطلاعات محرمانه شما از طریق ChatGPT لو می رود

محققان امنیتی به تازگی آسیب پذیری خطرناکی را در قابلیت ‘Connectors’ اوپن ای آی کشف کرده اند که به چت جی پی تی اجازه می دهد به سایر سرویس ها مانند گوگل درایو متصل شود. این کشف حیرت انگیز نشان می دهد تنها با یک سند به ظاهر ساده و “مسموم” می توان اطلاعات حساس و محرمانه را بدون هیچ گونه تعامل مستقیم کاربر، از گوگل درایو او استخراج کرد. با زوم تک همراه باشید تا جزئیات این حفره امنیتی جدید که دنیای هوش مصنوعی را در شوک فرو برده، بررسی کنیم.

حمله هوشمندانه ای که از اتصال چت جی پی تی سو استفاده می کند

به گزارش بخش اخبار فناوری زوم تک از وایرد، مدل های هوش مصنوعی نسل جدید دیگر تنها یک ربات چت ساده برای تولید متن نیستند، بلکه می توانند به اطلاعات شخصی شما متصل شوند و پاسخ های شخصی سازی شده ای ارائه دهند. قابلیت ‘Connectors’ در چت جی پی تی اوپن ای آی به کاربران این امکان را می دهد تا هوش مصنوعی را به صندوق ورودی جیمیل، کدهای گیت هاب یا تقویم مایکروسافت خود متصل کنند. این اتصال، هرچند به ظاهر مفید است، اما پتانسیل سواستفاده را نیز به همراه دارد و محققان نشان داده اند که تنها یک سند “آلوده” کافیست تا این پتانسیل به واقعیت تبدیل شود.

نشت اطلاعات محرمانه از طریق یک سند ‘مسموم’

محققان امنیتی در کنفرانس بلک هت در لاس وگاس، جزئیات حمله ای را با نام ‘AgentFlayer’ فاش کردند. این حمله از یک نقص در کانکتورهای اوپن ای آی سواستفاده می کند و با استفاده از یک سند به ظاهر معمولی که به طور غیرمستقیم حاوی دستورات مخرب است، می تواند اطلاعات حساس را از یک اکانت گوگل درایو استخراج کند. در این آزمایش، محققان موفق شدند کلیدهای ای پی آی (API Keys) و سایر داده های حساس توسعه دهندگان را از یک حساب نمایشی گوگل درایو به سرقت ببرند.

ریسک های پنهان در پشت قابلیت های جذاب

این آسیب پذیری زنگ خطر بزرگی را برای کاربران هوش مصنوعی به صدا در می آورد و نشان می دهد اتصال مدل های هوش مصنوعی به سیستم های خارجی و به اشتراک گذاری داده ها، سطح حمله را برای هکرهای مخرب به شدت افزایش می دهد. این موضوع به ویژه برای کاربران تجاری و سازمانی که اطلاعات حساس و حیاتی خود را در سرویس هایی مانند گوگل درایو ذخیره می کنند، می تواند بسیار نگران کننده باشد. این حمله نشان می دهد حتی اگر مستقیماً به چت جی پی تی دستوری برای استخراج اطلاعات ندهید، یک سند آلوده که در جایی از فایل های شما قرار دارد، می تواند به طور خودکار هوش مصنوعی را فریب دهد تا این کار را انجام دهد.

خطراتی که کاربران باید بدانند

این کشف مهم، بار دیگر اهمیت امنیت و حفظ حریم خصوصی داده ها در عصر هوش مصنوعی را برجسته می کند. هرچه وابستگی ما به ابزارهای هوش مصنوعی که به داده های شخصی و سازمانی ما دسترسی دارند بیشتر می شود، آسیب پذیری های جدیدی نیز ظهور می کنند. کاربران باید در استفاده از این قابلیت ها احتیاط بیشتری به خرج دهند و به یاد داشته باشند که هرگونه اتصال هوش مصنوعی به داده هایشان، ریسک بالقوه ای را به همراه دارد. تا زمانی که اوپن ای آی این حفره امنیتی را برطرف نکرده، لازم است کاربران از قرار دادن اسناد حساس در دسترس این کانکتورها اجتناب کنند و دائماً تنظیمات امنیتی حساب های خود را بررسی نمایند.