دیپ‌ سیک و سانسور سیستماتیک: تحلیل یک مطالعه جدید

به گزارش بخش اخبار فناوری زوم تک , مدل‌ های زبانی بزرگ مانند دیپ‌ سیک، توانایی تولید متن‌های بسیار شبیه به انسان را دارند. با این حال، این مدل‌ ها می‌توانند تحت تاثیر تعصبات موجود در داده‌ های آموزشی قرار بگیرند و پاسخ‌ هایی تولید کنند که با واقعیت مطابقت ندارد. مطالعه اخیر نشان می‌دهد که دیپ‌ سیک به طور هدفمند از پاسخ دادن به سوالات حساس درباره چین خودداری می‌کند که این موضوع، نگرانی‌ هایی را درباره سانسور و کنترل اطلاعات در دنیای دیجیتال ایجاد کرده است.

دیپ‌ سیک، هوش مصنوعی چینی که از صحبت درباره چین طفره می‌رود

دیپ‌ سیک، چت‌ بات هوش مصنوعی جدیدی که توسط یک استارتاپ چینی توسعه داده شده، به سرعت در بین کاربران محبوب شده و در صدر جدول دانلود اپ‌ استور قرار گرفته است. اما گزارش‌ ها نشان می‌دهد که این چت‌بات به طرز عجیبی از پاسخ دادن به سوالات حساس درباره چین خودداری می‌کند!

سانسور موضوعات چالش‌ بر انگیز

دیپ‌ سیک که توسط شاخه‌ ای از صندوق سرمایه‌ گذاری High-Flyer چین توسعه داده شده، به دلیل عملکرد خوب و هزینه کمتر نسبت به رقبای آمریکایی خود مانند OpenAI، مورد توجه قرار گرفته است. اما این چت‌ بات از بحث در مورد موضوعات چالش‌ بر انگیز و حساس برای دولت چین، مانند اعتراضات میدان Tiananmen و مسئله تایوان، طفره می‌رود.

گزارش PromptFoo

گزارش جدیدی از PromptFoo، یک استار تاپ تحت حمایت آندرسن هوروویتس که به شرکت‌ ها در یافتن آسیب‌ پذیری‌ های اپلیکیشن‌ های هوش مصنوعی کمک می‌کند، نشان داده است که مدل استدلال R1 DeepSeek از پاسخگویی به حدود 85 درصد از 1360 سوال مربوط به موضوعات حساس خودداری می‌کند.

پاسخ‌ های ملی‌ گرایانه

به نظر می‌رسد که دیپ‌ سیک برای اجتناب از پاسخ به سوالات حساس، از پاسخ‌ های از پیش تعیین شده با لحن ملی‌ گرایانه استفاده می‌کند. این موضوع نشان می‌دهد که سانسور در این چت‌بات به صورت مصنوعی و با اعمال فشار از سوی حزب کمونیست چین صورت می‌گیرد.

نگرانی‌ ها درباره سانسور و آزادی بیان

سانسور موضوعات حساس در دیپ‌ سیک نگرانی‌ هایی را درباره آزادی بیان و دسترسی به اطلاعات در چین ایجاد کرده است. بسیاری از کارشناسان بر این باورند که این نوع سانسور می‌تواند منجر به تحریف واقعیت و محدود کردن دیدگاه‌ های مختلف شود.

آینده دیپ‌ سیک و رقابت در حوزه هوش مصنوعی

با وجود این محدودیت‌ ها، دیپ‌ سیک به عنوان یک چت‌بات هوش مصنوعی قدرتمند و کار آمد، توانسته است در مدت زمان کوتاهی محبوبیت زیادی کسب کند. اما باید دید که آینده این چت‌ بات و رقابت آن با سایر مدل‌ های هوش مصنوعی در جهان چگونه خواهد بود. آیا دیپ‌ سیک می‌تواند با وجود سانسور و محدودیت‌ ها، به عنوان یک رقیب جدی برای مدل‌ های غربی مانند Chat GPT ظهور کند؟