اگر اخبار اخیر درباره خطرات حریم خصوصی هوش مصنوعی Muse متا شما را نگران و وحشتزده کرده است، تنها نیستید؛ مهندسانی که در داخل شرکت متا در حال آزمایش این ابزار بودند نیز به همان اندازه شوکه و وحشتزده شدهاند. گزارشهای چتهای داخلی نشان میدهد که کارمندان متا هنگام آزمایش Muse با اطلاعات شخصی غیرمنتظره، پاسخهای عجیب هوش مصنوعی و احتمال نشت اطلاعات میان حسابهای کاربری مختلف مواجه شدهاند.
به گزارش بخش اخبار فناوری زوم تک به نقل از (Digital Trends)، ایجنت هوش مصنوعی Muse با نماد خندان خود به نام Jolly، از زمان عرضه در ماه سپتامبر بیش از ۱۰ میلیون بار دانلود شده و شرکت متا (Meta) روی درآمدهای میلیاردی آینده خود از طریق آن حساب باز کرده است. اما بامزگی این نماد نمیتواند روی ریسکهای جدی حریم خصوصی آن سرپوش بگذارد. تحقیقات خبرگزاری رویترز (Reuters) با بررسی بیش از بیست پست داخلی در این شرکت، الگوی عجیبی را آشکار کرده است. کارمندان متا از دریافت بهروزرسانیهای ناخواسته درباره برنامههای مراقبت از کودکان، خریدهایی که هیچکس انجام نداده بود و موجودی حسابهای بانکی که متعلق به خودشان نبود، خبر دادهاند.
هوش مصنوعی Muse چگونه به چت های رمزنگاری شده نفوذ میکند؟
یکی از کارمندان متا پس از باز کردن اپلیکیشن Muse در گوشی شخصی خود، متوجه شد که این هوش مصنوعی به او یادآوری میکند که پاسخ پیام خواهرش را در پیامرسان سیگنال (Signal) بدهد؛ اپلیکیشنی رمزنگاریشده که او هرگز به Muse متصل نکرده بود. این کارمند در پیام داخلی خود نوشت: «این موضوع به نظر یک نقض شدید حریم خصوصی است. من قطعاً دسترسی به سایر اپلیکیشنها را به آن ندادهام.»
خبرگزاری رویترز این جزئیات را در اختیار سیگنال و مؤسسه AI Now قرار داد و آنها به صورت مشترک توانستند کاری کنند که Muse دوباره این رفتار را تکرار کند. سیستمعامل اندروید (Android) مسیر سادهای برای این کار بود، زیرا این ایجنت هوشمند میتواند اعلانهای (Push Notifications) شما را بخواند. در مقابل، جالب اینجاست که گوشی آیفون (iPhone) به Muse اجازه چنین دسترسی گسترده و بیمهاری را نداده است که دستکم جای امیدواری دارد.

در کامپیوترهای مک (Mac) نیز این ایجنت از طریق اسکرینشات و تنظیمات دسترسیپذیری (Accessibility) وارد عمل شده است؛ همان ابزارهایی که اپل برای کمک به افراد دارای معلولیت جهت کار با دستگاههایشان ساخته است. شرکت اپل از آن زمان تاکنون دسترسی توسعهدهندگان مک به این تنظیمات را محدود و مسدود کرده است.
اصلاً این مکالمه متعلق به چه کسی است؟
سایر کارمندان نیز پاسخهایی برای سؤالاتی دریافت کردند که هرگز نپرسیده بودند. به یکی از آنها به صورت تصادفی پیشنهاد کمک برای «ارسال پیام به فروشنده» درباره یک میز قهوهخوری داده شد و هنگامی که او به این موضوع اعتراض کرد، Muse اعتراف کرد که به نظر نمیرسد این محتوا «متعلق به شما باشد». یکی از اعضای تیم ابرهوش مصنوعی متا (Meta Superintelligence) نیز اذعان کرد که توهمات (Hallucinations) این هوش مصنوعی «به سمت ناخوشایندترین موضوعات، مانند مسائل مالی، امنیتی و ایمنی گرایش پیدا میکند».
دنیل رابرتز (Daniel Roberts)، سخنگوی متا، این موارد را «رویدادهای مجزا» نامید و مدعی شد که این ایجنت تنها با کسب مجوز به سایر اپلیکیشنها دسترسی پیدا میکند. با این حال، مردیت ویتاکر (Meredith Whittaker)، رئیس پیامرسان سیگنال، بسیار صریحتر موضع گرفت و ایجنتهایی با این حجم از دسترسی به دستگاههای مردم را «از نظر فناوری بیملاحظه و خطرناک» توصیف کرد.
برای محافظت از حریم خصوصی خود در برابر Muse چه کنیم؟
اگر اپلیکیشن Muse روی گوشی شما نصب است، همین حالا به صورت دستی مجوزهای دسترسی به اعلانها (Notification) و دسترسیپذیری (Accessibility) آن را بررسی کنید. در سیستمعامل اندروید، کارمندان متوجه شدند که دسترسی این ایجنت به اعلانها از همان ابتدا فعال بوده و Muse میتوانست خطوط اول پیامهای شما را از طریق نوتیفیکیشنها بخواند.
شرایط استفاده از خدمات متا همین حالا هم شما را مسئول هر اقدامی میداند که ایجنت هوش مصنوعی شما در آینده انجام میدهد؛ بنابراین برای محافظت از اطلاعات و حریم خصوصی خود، حتماً مجوزهای دسترسی آن را غیرفعال کنید یا تا زمان برطرف شدن این مشکلات امنیتی، اپلیکیشن را به طور کامل از روی دستگاه خود حذف نمایید.




نظرات در مورد : خطرات حریم خصوصی هوش مصنوعی Muse حتی کارمندان متا را هم وحشتزده کرده است!