خطر بزرگ هوش مصنوعی؛ گروه‌ های تروریستی از چت‌بات‌ ها برای ساخت بمب استفاده می‌کنند!

هوش مصنوعی به سرعت به ابزاری کاربردی برای انجام هر کاری، از نوشتن ایمیل و خلاصه‌سازی جلسات گرفته تا کمک به دانش‌آموزان برای مطالعه یا عیب‌یابی کدهای برنامه‌نویسی توسط توسعه‌دهندگان تبدیل شده است. اما همان فناوری جذابی که در وقت افراد صرفه‌جویی می‌کند، می‌تواند مورد سوءاستفاده نیز قرار گیرد؛ چرا که یک گزارش جدید نشان می‌دهد گروه‌های تروریستی در حال یافتن راه‌هایی برای انجام دقیقاً همین کار هستند.

کدام چت‌بات‌ های هوش مصنوعی مورد سوءاستفاده تروریست‌ها قرار گرفته‌اند؟

به گزارش بخش اخبار فناوری زوم تک به نقل از منبع خبر The New York Times، محققان در یک مقاله پژوهشی که پیش از انتشار رسمی با این رسانه به اشتراک گذاشته شد، شواهدی یافتند که نشان می‌دهد اعضای گروه تروریستی بوکوحرام از چت‌بات‌های محبوب هوش مصنوعی برای پشتیبانی از فعالیت‌های روزمره و همچنین وظایف مرتبط با نبرد استفاده کرده‌اند. مصاحبه با ۲۷ عضو سابق این گروه که طی دو سال گذشته در نیجریه انجام شده است، نشان می‌دهد که ابزارهایی مانند ChatGPT، Gemini، Claude، Grok، Meta AI و DeepSeek برای جمع‌آوری اطلاعات فنی، عیب‌یابی و تعمیر سلاح‌ها و حتی کمک به برنامه‌ریزی حملات مورد استفاده قرار گرفته‌اند.

استفاده سازمان‌ یافته تروریست‌ ها از ابزارهای هوش مصنوعی

آنچه این یافته‌ها را به‌طور ویژه‌ای نگران‌کننده می‌کند، این است که فعالیت‌های مذکور تنها به عنوان کار چند فرد متمایز که در حال آزمایش با هوش مصنوعی بوده‌اند، توصیف نشده است. این گزارش ادعا می‌کند که استفاده این گروه از هوش مصنوعی کاملاً سازمان‌یافته شده بود و شامل تیم‌های اختصاصی، آموزش‌های داخلی و به اشتراک‌گذاری دانش میان اعضا می‌شد. محققان همچنین می‌گویند برخی از کاربران موفق شده‌اند پروتکل‌های امنیتی داخلی چت‌بات‌ها را که برای جلوگیری از پاسخ‌دهی هوش مصنوعی به درخواست‌های مرتبط با خشونت طراحی شده‌اند، دور بزنند.

البته این لزوماً به این معنی نیست که چت‌بات‌های هوش مصنوعی امروزی دستورالعمل‌های خطرناک را به راحتی و در صورت درخواست در اختیار کاربران می‌گذارند. بخش عمده‌ای از این تحقیق بر روی فعالیت‌های صورت گرفته تا پایان سال ۲۰۲۴ تمرکز دارد و شرکت‌های توسعه‌دهنده هوش مصنوعی می‌گویند نسخه‌های جدیدتر مدل‌های آن‌ها شامل محافظت‌های بسیار قوی‌تری است. آن‌ها همچنین اشاره می‌کنند که بسیاری از پرامپت‌ها (دستورات متنی) در یک منطقه خاکستری قرار می‌گیرند؛ به عنوان مثال، پرسش از یک هوش مصنوعی در مورد نحوه تعمیر موتور سیکلت یا درک مفاهیم اولیه شیمی به خودی خود مضر نیست، هرچند که اطلاعات مشابه می‌توانند مورد سوءاستفاده قرار گیرند.

واکنش شرکت‌ های بزرگ فناوری به سوءاستفاده تروریستی از AI

به دنبال انتشار این گزارش، شرکت‌های بزرگ فعال در حوزه فناوری و تکنولوژی واکنش‌های مختلفی نشان داده‌اند که در ادامه به آن‌ها اشاره می‌کنیم:

• شرکت OpenAI: به نیویورک تایمز اعلام کرد که استفاده از ChatGPT برای حمایت از تروریسم یا خشونت، خط‌مشی‌های این شرکت را نقض می‌کند و آن‌ها به بهبود سیستم‌های دفاعی خود در برابر سوءاستفاده ادامه می‌دهند.
• شرکت Meta: به طور مشابه خاطرنشان کرد که این تحقیق عمدتاً شامل نسخه‌های قدیمی‌تر مدل‌های هوش مصنوعی آن بوده و از آن زمان تاکنون تدابیر امنیتی خود را به‌طور چشمگیری تقویت کرده است.
• شرکت‌های xAI و DeepSeek: بر اساس این گزارش، این دو شرکت به درخواست‌ها برای اظهار نظر در این باره پاسخ نداده‌اند.

چالش بزرگ آینده؛ پیش‌دستی در حفظ امنیت هوش مصنوعی

کارشناسان امنیتی همچنین هشدار می‌دهند که نباید تصور کرد هوش مصنوعی ناگهان به گروه‌های تروریستی توانایی‌های مافوق بشری می‌بخشد. برنامه‌ریزی و اجرای حملات همچنان به لجستیک واقعی، تأمین مالی، ارتباطات و هماهنگی انسانی بستگی دارد؛ چیزهایی که یک چت‌بات نمی‌تواند جایگزین آن‌ها شود. در عوض، محققان بر این باورند که هوش مصنوعی بیشتر احتمال دارد اعضای کم‌تجربه‌تر را تا حدودی توانمندتر کند، تا اینکه چشم‌انداز تهدید را به طور چشمگیری تغییر دهد.

با این حال، این گزارش یادآوری دیگری است که بحث امنیت هوش مصنوعی فقط به تقلب دانش‌آموزان در تکالیف مدرسه یا ساخت تصاویر جعلی توسط افراد محدود نمی‌شود. همان‌طور که مدل‌های هوش مصنوعی توانمندتر و در دسترس‌تر می‌شوند، شرکت‌ها به طور مداوم با فشار روبرو خواهند شد تا تضمین کنند این ابزارهای قدرتمند برای کاربران قانونی مفید باقی می‌مانند و هم‌زمان، بهره‌برداری از آن‌ها برای بازیگران مخرب و تروریست‌ها به شدت دشوارتر می‌شود.