اپلیکیشن پیام رسان سیگنال (Signal) برای جلوگیری از دسترسی عامل های هوش مصنوعی به مکالمات خصوصی کاربران، قابلیت مسدودسازی اسکرین شات را به صورت پیش فرض در دستگاه های اندرویدی و آیفون فعال می کند. این اقدام در واکنش به گسترش دستیارهای هوش مصنوعی سیستم عامل ها انجام شده است؛ ابزارهایی که می توانند محتوای نمایش داده شده روی صفحه را بخوانند و اطلاعات آن را برای پردازش در اختیار سرویس های هوش مصنوعی قرار دهند.
سیگنال با وجود اجرای این محدودیت ها اذعان کرده است که راهکار جدید نمی تواند تمام مسیرهای دسترسی عامل های هوش مصنوعی به اطلاعات کاربران را مسدود کند. این شرکت هشدار می دهد که یکپارچه سازی عمیق هوش مصنوعی با سیستم عامل های موبایل، می تواند تضمین های حریم خصوصی اپلیکیشن های پیام رسان را با چالش جدی مواجه کند.
چرا سیگنال دسترسی هوش مصنوعی به پیام ها را مسدود می کند؟
این قابلیت برای مقابله با سیستم های هوش مصنوعی تعبیه شده در iOS 27 و نسخه هایی از اندروید طراحی شده است که سیگنال می تواند در آنها تلاش دستیار هوش مصنوعی برای خواندن محتوای صفحه را تشخیص دهد.
مردیت ویتاکر، رئیس بنیاد سیگنال، ادغام عامل های هوش مصنوعی در سیستم عامل های اندروید، iOS و ویندوز را تهدیدی جدی برای آینده این پیام رسان توصیف کرده است. به گفته او، این ابزارها برای ارائه خدمات خود، اطلاعات نمایش داده شده روی صفحه را اسکن می کنند و محتوای پیام های سیگنال را در اختیار سیستم های هوش مصنوعی قرار می دهند.
در چنین شرایطی، اطلاعاتی که قرار بود در محیط امن پیام رسان باقی بمانند، ممکن است در دستگاه یا سرورهای راه دور ذخیره شوند؛ آن هم بدون اینکه سیگنال بتواند بر نحوه پردازش یا نگهداری آنها کنترل داشته باشد. این مسئله فقط حریم خصوصی یک کاربر را تهدید نمی کند و می تواند اطلاعات تمام افراد حاضر در یک گفت وگو را در معرض خطر قرار دهد.
قابلیت جدید سیگنال در اندروید و آیفون چگونه کار می کند؟
سیگنال برای مقابله با این تهدید، محدودیت های متفاوتی را در دو سیستم عامل موبایل در نظر گرفته است:
- در آیفون: گزینه ای با نام Block Siri AI اضافه شده که دسترسی هوش مصنوعی سیری به محتوای صفحه سیگنال را محدود می کند. این قابلیت به صورت پیش فرض فعال است.
- در اندروید: سیگنال از قابلیت Screen Security استفاده می کند و در نسخه هایی که امکان تشخیص تلاش دستیار هوش مصنوعی برای خواندن صفحه وجود دارد، محدودیت های لازم را اعمال می کند.
این تنظیمات علاوه بر جلوگیری از دسترسی عامل های هوش مصنوعی به محتوای صفحه، امکان گرفتن اسکرین شات از مکالمات را نیز محدود می کنند. کاربرانی که بخواهند این محدودیت را غیرفعال کنند، می توانند از بخش تنظیمات سیگنال وارد مسیر Settings و سپس Privacy و App Security شوند. در آیفون باید گزینه Block Siri AI و در اندروید گزینه Screen Security را تغییر دهند.
سیگنال هشدار داده است که غیرفعال کردن این قابلیت ممکن است محتوای پیام های خود کاربر و مخاطبان او را در معرض دسترسی عامل های هوش مصنوعی قرار دهد و سطح حفاظت حریم خصوصی را کاهش دهد.
سابقه مقابله سیگنال با هوش مصنوعی مایکروسافت Recall
این نخستین بار نیست که سیگنال برای جلوگیری از دسترسی ابزارهای هوش مصنوعی به پیام های کاربران محدودیت ایجاد می کند. این شرکت در ماه مه سال گذشته، پس از معرفی قابلیت جنجالی Recall از سوی مایکروسافت، تنظیماتی را برای جلوگیری از ثبت اسکرین شات پیام های سیگنال در ویندوز ۱۱ ارائه کرده بود.
قابلیت Recall با ثبت تصاویر مداوم از فعالیت های کاربر در رایانه، امکان جست وجو و بازیابی اطلاعات مشاهده شده روی صفحه را فراهم می کند. از نگاه سیگنال، چنین قابلیتی می تواند حتی پیام های ناپدیدشونده را نیز برای مدت طولانی تری در دسترس نگه دارد و هدف اصلی قابلیت حذف خودکار پیام ها را زیر سوال ببرد.
ماجرای دسترسی هوش مصنوعی Meta Muse به پیام های سیگنال
نگرانی های سیگنال صرفا به دستیارهای هوش مصنوعی اپل و گوگل محدود نمی شود. گزارش اخیر رویترز نشان داد که عامل هوش مصنوعی Muse متعلق به شرکت متا توانسته است از طریق مجوزهای گسترده سیستم عامل، به پیام های خصوصی سیگنال در یک رایانه اپل و یک دستگاه اندرویدی دسترسی پیدا کند.
بر اساس این گزارش، Muse در رایانه های مجهز به macOS از ابزارهای دسترسی پذیری (Accessibility) و قابلیت اسکرین شات استفاده کرده است. این عامل ابتدا اپلیکیشن سیگنال را باز می کرد، از مکالمات تصویر می گرفت، متن پیام ها را استخراج می کرد و سپس محتوای آنها را در محیط خود بازسازی می کرد.
در دستگاه اندرویدی نیز این عامل از دسترسی خود به اعلان های گوشی برای خواندن پیام ها استفاده کرده بود. در یکی از موارد گزارش شده، Muse به یکی از کارکنان متا یادآوری کرد که به پیام خواهرش در سیگنال پاسخ دهد؛ موضوعی که با اعتراض این کارمند روبه رو شد، زیرا او تصور نمی کرد به این ابزار اجازه دسترسی به سایر اپلیکیشن های گوشی خود را داده باشد.
این اتفاق نشان داد که حتی اگر یک پیام رسان از رمزگذاری سرتاسری استفاده کند، دسترسی گسترده یک عامل هوش مصنوعی به سیستم عامل می تواند راه دیگری برای مشاهده محتوای پیام ها ایجاد کند. اپل نیز در همین هفته به روزرسانی جدیدی منتشر کرد که مسیر دسترسی مورد استفاده Muse در macOS را مسدود می کند.
سیگنال: مسدودسازی اسکرین شات ها کافی نیست
سیگنال تاکید کرده است که راهکار جدید این شرکت کامل نیست. محدود کردن اسکرین شات ها نمی تواند تمام روش هایی را که عامل های هوش مصنوعی برای دسترسی به اطلاعات یک اپلیکیشن استفاده می کنند، مسدود کند. برای مثال، این عامل ها ممکن است از طریق فایل های ذخیره شده روی دستگاه یا مسیرهای دیگر به داده های حساس دسترسی پیدا کنند.
از سوی دیگر، توسعه دهندگان اپلیکیشن ها ابزارهای فنی کافی برای جلوگیری از دسترسی عامل های هوش مصنوعی به اطلاعات برنامه های خود در اختیار ندارند. سیگنال همچنین از شرکت های سازنده سیستم عامل انتقاد کرده است که مستندات فنی شفاف و کاملی درباره نحوه عملکرد این عامل ها و روش دسترسی آنها به داده های کاربران ارائه نمی کنند.
درخواست سیگنال از اپل، گوگل و مایکروسافت
بنیاد سیگنال از شرکت های اپل، گوگل و مایکروسافت خواسته است دو اقدام اساسی برای محافظت از حریم خصوصی کاربران انجام دهند:
- ارائه راهکاری ساده و مستند برای اینکه توسعه دهندگان بتوانند دسترسی هوش مصنوعی به اطلاعات اپلیکیشن خود را به طور کامل محدود کنند. این محدودیت باید بخش هایی مانند خواندن صفحه، دسترسی به فایل ها، اعلان ها، APIها و سایر چارچوب های سیستم عامل را پوشش دهد؛ بدون اینکه عملکرد اصلی برنامه مختل شود.
- انتشار مستندات و مشخصات فنی دقیق درباره نحوه عملکرد عامل های هوش مصنوعی، روش دسترسی آنها به اطلاعات و چگونگی پردازش داده های کاربران.
سیگنال معتقد است توسعه دهندگان باید بتوانند مشخص کنند که دستیارهای هوش مصنوعی به کدام بخش از اطلاعات برنامه های آنها دسترسی داشته باشند و در صورت نیاز، این دسترسی را به طور کامل مسدود کنند.
این پیام رسان همچنین هشدار داده است که برخی عامل های هوش مصنوعی از قابلیت های Accessibility استفاده می کنند؛ ابزارهایی که در اصل برای کمک به افراد دارای معلولیت و تسهیل تعامل آنها با اپلیکیشن ها طراحی شده اند، نه اینکه به کلیدی برای دسترسی نامحدود هوش مصنوعی به اطلاعات سایر برنامه ها تبدیل شوند.
در همین حال، اپل در اواخر ماه گذشته نسخه iOS 27.2 را با گزینه Excluded Apps منتشر کرده است که به کاربران اجازه می دهد تعیین کنند سیری، بخش جست وجو و پیشنهادهای سیستم عامل به کدام اپلیکیشن ها دسترسی داشته باشند. کاربران گوگل Gemini نیز می توانند از طریق تنظیمات Connected Apps برخی برنامه ها را از دسترس این دستیار خارج کنند.
اپل همچنین در اوایل هفته جاری از کنترل های جدیدی برای کاربران مک رونمایی کرد که امکان مدیریت دقیق تر دسترسی اپلیکیشن ها به اطلاعات را فراهم می کند؛ قابلیتی که با گسترش استفاده از عامل های هوش مصنوعی اهمیت بیشتری پیدا کرده است.




نظرات در مورد : سیگنال مانع دسترسی عامل های هوش مصنوعی به پیام های خصوصی کاربران شد