چالش جدید هوش مصنوعی: انتشار ویدیوهای دیپ فیک و ساختگی از حوادث طبیعی برای جذب تعامل

ویدیوهای جعلی و بازنشرشده از حوادث طبیعی در ونزوئلا و چین، اعتماد کاربران به شبکه‌های اجتماعی را در زمان‌هایی که نیاز مبرم به دریافت اخبار دقیق وجود دارد، با بحران مواجه کرده‌اند.

به گزارش بخش اخبار فناوری زوم تک به نقل از France 24، فید شبکه‌های اجتماعی در جریان زلزله‌های ونزوئلا پر از ویدیوهای بازنشرشده و تخریب‌های تولیدشده با هوش مصنوعی شد. همچنین، شرایط حاد آب‌و‌هوایی در چین نیز موجی از ویدیوهای ساختگی حوادث، از جمله صحنه‌های جعلی سیل و گزارش‌های دروغین قطعی برق را به همراه داشت.

این وضعیت یک رقابت ناخوشایند ایجاد می‌کند؛ زیرا مردم به دنبال شواهد فوری از اتفاقات رخ‌داده هستند و محتوای بی‌کیفیت هوش مصنوعی (AI Slop) می‌تواند پیش از انتشار اطلاعات موثق، صحنه‌هایی دراماتیک ارائه دهد. در چنین شرایطی و دقیقاً زمانی که سردرگمی مردم را به دنبال پاسخ می‌کشاند، به‌روزرسانی‌های واقعی مجبور می‌شوند با محتواهای خیالی به رقابت بپردازند.

چگونه زلزله ونزوئلا به سوژه‌ای برای تولید محتوا تبدیل شد؟

موج اخبار نادرست حول زلزله‌های ونزوئلا تنها متکی به هوش مصنوعی نبود. ویدیوهای واقعی از سایر بلایای طبیعی با مکان‌های جدید منتشر شدند و ویدیوهای قدیمی‌تر ونزوئلا نیز به عنوان اخبار فوری دوباره بازنشر گردیدند. هنگامی که تاریخ و زمینه واقعی یک ویدیو حذف شود، یک ضبط واقعی می‌تواند به اندازه یک ویدیو دیپ فیک گمراه‌کننده باشد.

این مسئله راهی آسان را پیش روی اکانت‌های جذب تعامل (Engagement Farmers) قرار می‌دهد تا وارد یک جریان خبری شوند. آن‌ها تنها به یک کلیپ دراماتیک، یک کپشن به‌موقع و میزان بازدیدی کافی نیاز دارند تا از هر کسی که به دنبال بررسی منبع خبر است پیشی بگیرند. اگرچه تکنولوژی هوش مصنوعی تصاویر متقاعدکننده‌تری تولید می‌کند، اما در واقع این سرعت انتشار است که بخش عمده این کار مخرب را پیش می‌برد.

نقش هوش مصنوعی در اخبار سیل چین

پست‌های ساختگی منتشرشده از چین نشان می‌دهند چه اتفاقی می‌افتد وقتی تولید دیپ فیک‌های متقاعدکننده ارزان و آسان می‌شود. برخی از تصاویر جعلی حتی اجسادی را روی آب‌های حاصل از سیل نشان می‌دادند و گزارش‌های نادرست قطعی برق باعث شدند شهروندان به دنبال تامین اقلام اضطراری بروند.

بر اساس گزارش تلویزیون مرکزی چین (CCTV)، هدف بسیاری از این پست‌ها جذب فالوور و افزایش ترافیک بود تا در نهایت به سود مالی منجر شود. این ویدیوها نیازی به بررسی دقیق ندارند؛ تنها کافی است برای مدت کوتاهی به اندازه‌ای باورپذیر به نظر برسند که بینندگان ترسان یا کنجکاو، آن‌ها را برای دیگران بازنشر کنند.

چرا باید به اولین کلیپ‌ های وایرال‌شده شک کرد؟

اولین ویدیوهای وایرال‌شده معمولاً زمانی ظاهر می‌شوند که اطلاعات موثق و زمینه‌ای کمیاب است. این زمان‌بندی به ویدیوهای دراماتیک مزیتی بزرگ می‌دهد؛ حتی زمانی که هیچ‌کس نتواند مشخص کند چه کسی آن را ضبط کرده، چه زمانی ساخته شده یا آیا واقعاً حادثه کنونی را نشان می‌دهد یا خیر.

البته این تصور که هر کلیپی جعلی است، باعث نادیده گرفتن شواهد واقعی شاهدان عینی می‌شود. قاعده بهتر این است که با ویدیوهای حوادث طبیعی به عنوان محتوای تاییدنشده رفتار کنید، مگر اینکه بتوانید مکان، تاریخ و منتشرکننده اصلی آن را تایید کنید. اگر این موارد پایه قابل پیگیری نیستند، به مزرعه‌های تولید محتوا (Content Farms) کمک نکنید تا وضعیت اضطراری دیگران را به خوراک فید شبکه‌های اجتماعی تبدیل کنند.