شرکت OpenAI حساب‌های ChatGPT مرتبط با تحت حمایت چین را مسدود کرد

به گزارش بخش اخبار فناوری زوم تک، شرکت OpenAI را می توان یکی از بزرگترین کمپانی های هوش مصنوعی جهان قلمداد کرد که با شرکت های بزرگی همکاری دارد.

شرکت OpenAI روز سه‌شنبه اعلام کرد که چندین حساب کاربری ChatGPT مرتبط با چین را که سعی در استفاده از این چت‌بات برای توسعه ابزارهای نظارت جمعی داشتند، مسدود کرده است. این غول هوش مصنوعی مستقر در سانفرانسیسکو در گزارشی منتشر شده اعلام کرد که برخی از حساب‌ها همچنین به دنبال پیشنهادهایی برای ساخت ابزارهای شنود رسانه‌های اجتماعی و سیستم‌های پروفایلینگ برای هدف قرار دادن گروه‌های خاصی از افراد بوده‌اند. OpenAI تأکید کرد که تمام حساب‌های کاربری شناسایی‌شده که در چنین اقداماتی دخیل بوده‌اند، مسدود شده‌اند. این گزارش همچنین به حساب‌های کاربری دیگری از روسیه اشاره کرد که سعی در استفاده از هوش مصنوعی برای ساخت ابزارهای فیشینگ داشتند.

OpenAI می‌گوید چندین کاربر مستقر در چین در تلاش برای ساخت ابزارهای نظارتی بوده‌اند. طبق گزارش «مختل‌کننده کاربردهای مخرب هوش مصنوعی: اکتبر ۲۰۲۵» OpenAI، مجموعه‌ای از حساب‌ها که احتمالاً با دولت چین مرتبط هستند، از ChatGPT برای جستجوی اطلاعات و ایجاد ابزارهای استبدادی استفاده می‌کردند. این شرکت هوش مصنوعی با نامیدن آن به عنوان «تصویری نادر از دنیای گسترده‌تر سوءاستفاده‌های اقتدارگرایان از هوش مصنوعی»، به چندین نمونه از این حساب‌ها که سعی در توسعه ابزارهای تخصصی برای نظارت جمعی، پروفایلینگ و نظارت آنلاین داشتند، اشاره کرد. نکته قابل توجه این است که این حوادث به طور همزمان رخ نداده و در طول سال 2025 پخش شده‌اند.

در این گزارش آمده است که یکی از کاربران از ChatGPT خواسته است تا در تهیه پیش‌نویس برنامه‌های پروژه و مطالب تبلیغاتی برای یک «ابزار شنود رسانه‌های اجتماعی» که ظاهراً برای یک مشتری دولتی در نظر گرفته شده بود، کمک کند. سیستم پیشنهادی که به عنوان «کاوشگر رسانه‌های اجتماعی» از آن یاد می‌شود، قادر به اسکن پلتفرم‌هایی مانند X (که قبلاً با نام توییتر شناخته می‌شد)، فیس‌بوک، اینستاگرام، ردیت، تیک‌تاک و یوتیوب برای یافتن محتوای افراطی یا حساس سیاسی است. OpenAI اعلام کرد که هیچ مدرکی مبنی بر توسعه یا بهره‌برداری از این ابزار پیدا نکرده است.

شرکت OpenAI به دنبال مسدود کردن حساب های چینی

یک حساب کاربری مسدود شده دیگر به کاربری مرتبط بود که در تهیه پیش‌نویس پیشنهادی برای آنچه که به عنوان یک مدل هشدار جریان ورودی مرتبط با اویغورهای پرخطر توصیف شده بود، درخواست کمک کرده بود. این مدل به عنوان سیستمی توصیف شده بود که رزروهای حمل و نقل را تجزیه و تحلیل کرده و آنها را با سوابق پلیس برای ردیابی افرادی که به عنوان «پرخطر» برچسب گذاری شده‌اند، مقایسه می‌کند. مانند مورد قبلی، OpenAI توضیح داد که از این مدل برای ساخت یا اجرای چنین ابزاری استفاده نشده است و وجود آن را نمی‌توان به طور مستقل تأیید کرد.

به نظر می‌رسد حساب‌های کاربری دیگری از ChatGPT برای پروفایل‌سازی و تحقیقات آنلاین استفاده می‌کنند. در یک مورد، کاربری از مدل هوش مصنوعی خواست تا منابع مالی یک حساب X که منتقد دولت چین بود را شناسایی کند. کاربر دیگری به دنبال اطلاعاتی در مورد سازمان‌دهندگان یک طومار در مغولستان بود. در هر دو مورد، ChatGPT فقط اطلاعات در دسترس عموم را بازگرداند.

علاوه بر این، OpenAI تأکید کرد که برخی از حساب‌ها همچنین از ChatGPT به عنوان یک ابزار تحقیقاتی منبع باز، مشابه موتور جستجو، استفاده می‌کنند. این حساب‌ها از ربات چت می‌خواستند تا اخبار فوری مربوط به چین را شناسایی و خلاصه کند. همچنین به دنبال اطلاعاتی در مورد موضوعات حساسی مانند قتل عام میدان تیان‌آن‌من در سال ۱۹۸۹ و تولد دالایی لاما بود.

منبع: gadgets360