مبارزه با کلاهبرداری‌ های فوق‌ واقعی هوش مصنوعی؛ اپلیکیشن Savi چگونه از خانواده‌ ها محافظت می‌کند؟

پیشرفت خیره‌کننده هوش مصنوعی مولد، ابزارهای خطرناکی را در اختیار کلاهبرداران سایبری قرار داده است؛ از جعل صدا و شماره تلفن گرفته تا سناریوهای وحشتناک آدم‌ربایی ساختگی. در این میان، استارتاپ امنیتی جدید Savi Security با معرفی یک اپلیکیشن پیشرفته، به دنبال محافظت از کاربران عادی در برابر کلاهبرداری‌های هوش مصنوعی است.

به گزارش بخش اخبار فناوری زوم تک به نقل از تک‌کرانچ، برادران پاتریک و رایان کافلین، که هر دو سوابق درخشانی در صنعت فناوری دارند (پاتریک در بخش دفاع سایبری ملی، اسپلانک و سیسکو فعالیت داشته و رایان در توسعه محصولات مصرفی در اپل و اسپاتیفای نقش داشته است)، یک استارتاپ امنیتی از نوعی کاملاً جدید را راه‌اندازی کرده‌اند. استارتاپ Savi Security هدف خود را محافظت از مردم عادی در برابر موج جدید کلاهبرداری‌های بسیار متقاعدکننده تولیدشده توسط هوش مصنوعی قرار داده است؛ چه این کلاهبرداری‌ها از طریق پیامک و ایمیل ارسال شوند و چه از طریق تماس‌های تلفنی.

این شرکت به تازگی موفق به جذب سرمایه اولیه ۷ میلیون دلاری (Seed Funding) شده است و اپلیکیشن خود را روز سه‌شنبه برای سیستم‌عامل‌های آیفون و اندروید عرضه می‌کند. این دور از سرمایه‌گذاری به رهبری Acrew Capital و با مشارکت Magnify Ventures ،TTCER و Resolute Ventures انجام شده است.

ماجرای تکان‌ دهنده‌ای که جرقه تاسیس این استارتاپ شد

الهام‌بخش اصلی برای تاسیس این شرکت، یک حادثه وحشتناک بود که برای مادر بنیان‌گذاران این استارتاپ رخ داد. حدود دو سال پیش، مادر پاتریک کافلین در حالی که به شدت پریشان بود با او تماس گرفت و گفت که همین چند لحظه پیش تماس تلفنی از مردی دریافت کرده که ادعا می‌کرده خواهر کافلین را دزدیده است. پاتریک در آن زمان نایب‌رئیس ارشد محصولات امنیتی در شرکت سیسکو (Cisco) بود.

کافلین تعریف می‌کند که روی گوشی موبایل مادرش، نام و شماره خواهرش (Caller ID) به عنوان تماس‌گیرنده لایو افتاده بود. او ادامه می‌دهد: «مادرم در طول آن تماس فکر می‌کند که صدای خواهرم را می‌شنود که می‌گوید: مامان، آن‌ها من را گرفتند. سپس صدای یک جیغ دلخراش می‌آید و خواهرم می‌گوید: باید هر کاری می‌گویند انجام دهی. بعد از آن مردی پشت تلفن می‌آید و می‌گوید: اگر همین الان ۱۲۰۰ دلار به ما پرداخت نکنی، دخترت را در پارکینگ والمارت محلی خواهیم کشت.»

کلاهبردار با دقت بالایی شماره خواهر کافلین و حتی صدای او را جعل (Spoof) کرده بود و حتی به موقعیت مکانی فروشگاه والمارتی که او معمولاً به آنجا می‌رفت، اشاره کرده بود. خوشبختانه مادر هوشیاری خود را حفظ می‌کند، با دخترش تماس می‌گیرد و متوجه می‌شود که او کاملاً سالم است. این آدم‌ربایی در واقع یک کلاهبرداری با جعل صدای هوش مصنوعی بود.

کافلین نیز مانند مادرش از این اتفاق شوکه شد. او می‌گوید: «چیزی که بعد از آرام کردن مادرم به ذهنم رسید این بود: چه تغییر بنیادینی در اقتصاد زیرزمینی جرایم سایبری رخ داده است که اکنون هکرها می‌توانند همان سطح از پیچیدگی سخت‌افزاری و نرم‌افزاری را که پیش از این علیه آژانس‌های دولتی و شرکت‌های بزرگ فورتشن ۵۰۰ دیده‌ بودم، این بار علیه یک شهروند و مصرف‌کننده معمولی به کار بگیرند؟»

چرا هوش مصنوعی کلاهبرداری را ارزان و آسان کرده است؟

پاسخ این سوال، ظهور مدل‌های زبانی بزرگ (LLM) و سایر ابزارهای هوش مصنوعی مولد ارزان‌قیمت و قدرتمند است. قبل از هوش مصنوعی، اجرای چنین ترفندهایی روی کاربران عادی از نظر مالی توجیهی نداشت؛ زیرا نیاز به تحقیق عمیق روی هدف، فناوری‌های گران‌قیمت برای جعل صدا و ابزارهای خاص داشت. چنین حملاتی در گذشته عمدتاً سازمان‌های دولتی یا شرکت‌های ثروتمند را هدف قرار می‌دادند.

کافلین می‌گوید: «اکنون با قرار گرفتن هوش مصنوعی در دست مجرمان سایبری، اتفاق عجیبی در حال رخ دادن برای کاربران عادی است. هزینه‌های اجرای چنین کلاهبرداری‌هایی به شدت ناچیز شده و مواد اولیه برای تحقیق به راحتی در دسترس است. شما می‌توانید تنها با استفاده از سه ثانیه فایل صوتی برگرفته از یک پست در شبکه‌های اجتماعی، یک صدا را شبیه‌سازی کنید. همه ما ردپایی از صدا یا تصاویر خود را در اینترنت به جا گذاشته‌ایم؛ مثل زمانی که در حال فیلم‌برداری از مسابقه فوتبال فرزندمان هستیم و روی فیلم صحبت می‌کنیم و آن را در فیس‌بوک می‌گذاریم.»

کمیسیون تجارت فدرال (FTC) اعلام کرد که در سال ۲۰۲۵، افرادی که جرایم آنلاین را گزارش کرده‌اند، در مجموع ۳.۵ میلیارد دلار را به دلیل کلاهبرداری‌های مبتنی بر جعل هویت از دست داده‌اند که این رقم سه برابر سال ۲۰۲۰ است. اگرچه اکثریت مالباختگان را افراد مسن تشکیل می‌دهند، اما تحقیقات نشان می‌دهد که نسل زد (Gen Z) نیز به شدت آسیب‌پذیر است. گزارش سال ۲۰۲۵ شرکت مالوربایتس (Malwarebytes) نشان داد که نسل زد بیشتر از سایر نسل‌ها هدف کلاهبرداری‌های پیامکی قرار گرفته و در ۲۵ درصد مواقع در دام آن‌ها افتاده است.

اپلیکیشن Savi چگونه کار می‌کند؟ پایش زنده تماس‌ ها برای تشخیص فریب

ایده برادران کافلین توسعه یک ابزار مداخله در زمان واقعی (Real-time) بود. آن‌ها ابتدا ایده خود و مدل هوش مصنوعی تشخیص کلاهبرداری را با راه‌اندازی یک وب‌سایت رایگان به نام Scam Wise آزمایش کردند که بدون نیاز به ثبت‌نام و به صورت ناشناس فعالیت می‌کرد. کاربران پیامک‌ها، عکس‌ها یا ایمیل‌های مشکوک را آپلود می‌کردند و این سایت احتمال جعلی بودن آن‌ها را ارزیابی می‌کرد.

کافلین گفت: «ما آن سایت را حدود چهار ماه پیش راه‌اندازی کردیم. تاکنون ۵۰,۰۰۰ ورودی داشته‌ایم و اکنون هر هفته حدود ۱۰,۰۰۰ نمونه جدید به آن اضافه می‌شود.» سایت Scam Wise به منبعی ارزشمند از داده‌های واقعی برای آموزش مدل هوش مصنوعی تشخیص کلاهبرداری استارتاپ Savi تبدیل شد. این استارتاپ در حال حاضر عمدتاً از هوش مصنوعی جمینای گوگل (Google Gemini) استفاده می‌کند، اما نرم‌افزار خود را روی یک گیت‌وی هوش مصنوعی بنا کرده است که به آن اجازه می‌دهد در صورت نیاز از سایر مدل‌ها، مانند گزینه‌های اختصاصی تشخیص صدا، استفاده کند.

روز سه شنبه، شرکت Savi محصول پولی خود را که یک اپلیکیشن برای سیستم‌عامل‌های iOS و Android است، روانه بازار کرد. این برنامه می‌تواند پیامک‌ها، پیام‌های صوتی و تماس‌های ورودی را برای شناسایی کلاهبرداری اسکن کند. اگرچه چنین ویژگی‌هایی در محصولات دیگر (مانند مالوربایتس) نیز یافت می‌شود، اما جذاب‌ترین قابلیت اپلیکیشن سافی، پایش زنده تماس‌های تلفنی (Live-call monitoring) است.

در طول یک مکالمه تلفنی مشکوک، کاربر می‌تواند گزینه حضور نماینده هوش مصنوعی اپلیکیشن را به عنوان شنونده فعال کند. سیستم امنیتی Savi در حین برقراری تماس، به نشانه‌های رفتاری و الگوهای گفتاری گوش می‌دهد تا مشخص کند آیا شرایط موجود یک کلاهبرداری است یا خیر.

مدل اشتراک خانوادگی برای امنیت تمام اعضای خانه

تعرفه‌های خدمات این اپلیکیشن نیز در نوع خود جالب است. این سرویس ماهانه ۸ دلار هزینه دارد که در صورت خرید اشتراک سالانه به ۶۳ دلار کاهش می‌یابد. این اشتراک کل اعضای یک خانواده را پوشش می‌دهد و هیچ محدودیتی در تعداد کاربران ندارد. بنابراین، یک اکانت می‌تواند فرزندان، همسر، والدین و حتی آن عمو یا دایی خانواده را که همیشه به پشتیبانی فنی نیاز دارد، تحت پوشش قرار دهد.

کافلین در پایان اشاره کرد که هوش مصنوعی شرایط دسترسی به ابزارهای فریبکاری را تغییر داده است. او می‌گوید: «فناوری سد ورود برای کلاهبردار شدن را از بین برده است. بنابراین اکنون نه تنها با شبکه‌های کلاهبرداری سازمان‌یافته مواجه هستیم، بلکه افراد عادی نیز وسوسه می‌شوند تا شانس خود را در این مسیر امتحان کنند.» پاسخ استارتاپ Savi Security به این بحران، معرفی نسل جدیدی از نرم‌افزارهای آنتی‌ویروس هوش مصنوعی است؛ ابزاری که دقیقاً مانند خود تبهکاران، از هوش مصنوعی در زمان واقعی برای دفاع استفاده می‌کند.