مبارزه تیک تاک با دیپ فیک؛ ابزار جدید شناسایی چهره و هوش مصنوعی در راه است

به نظر می‌رسد دیپ‌ فیک‌ های ساخته شده توسط هوش مصنوعی به سردرد بزرگی برای تولیدکنندگان محتوا تبدیل شده‌اند و اکنون تیک‌ تاک بالاخره برای مبارزه با این پدیده دست به کار شده است.

به گزارش بخش اخبار فناوری زوم تک به نقل از دیجیتال ترندز (Digital Trends)، مت ناوارا، مشاور رسانه‌های اجتماعی، متوجه شده است که این پلتفرم به آرامی در حال آزمایش یک ابزار جدید و اختیاری (Opt-in) است که محتوای تولیدشده توسط هوش مصنوعی را که از چهره یک تولیدکننده محتوا تقلید می‌کند، ردیابی کرده و به آن‌ها این امکان را می‌دهد تا مستقیماً آن را گزارش و مسدود کنند.

زکریای کیزر، سخنگوی تیک‌ تاک در ایالات متحده، در گفتگو با رسانه ورج (The Verge) تایید کرد که این آزمایش در حال حاضر محدود به گروه کوچکی از تولیدکنندگان محتوای آمریکایی است. این اقدام، تیک تاک را دقیقاً در تعقیب یوتیوب قرار می‌دهد؛ پلتفرمی که پیش از این ابزار شناسایی چهره هوش مصنوعی خود را پس از ماه‌ها آزمایش بی‌سروصدا، برای تولیدکنندگان محتوای واجد شرایط بالای ۱۸ سال گسترش داد و حتی در اوایل امسال، محافظت‌های مشابهی را برای افراد مشهور و آژانس‌های استعدادهای هنری اعمال کرد.

تیک‌ تاک برای مبارزه با دیپ‌ فیک اسکن چهره واقعی شما را می‌خواهد

ابزار تشخیص شباهت هوش مصنوعی تیک تاک اختیاری است، اما تولیدکنندگانی که می‌خواهند از آن استفاده کنند باید ابتدا هویت خود را از طریق پلتفرم Jumio تایید کنند. این فرآیند شامل یک سلفی بلادرنگ و بررسی کارت شناسایی است. به گفته کیزر، تیک‌تاک اسناد هویتی را ذخیره نمی‌کند، در حالی که داده‌های چهره تنها برای مطابقت دادن شباهت ظاهری تولیدکننده محتوا و شناسایی محتوای غیرمجاز تولیدشده با هوش مصنوعی استفاده می‌شود.

پس از تکمیل فرآیند احراز هویت، تیک‌تاک شروع به اسکن محتواهای تولیدشده با هوش مصنوعی می‌کند که ممکن است از چهره یا ظاهر تولیدکننده محتوا استفاده کرده باشند. اگر سیستم مطابقت‌های احتمالی را پیدا کند، تولیدکننده محتوا می‌تواند آن‌ها را بررسی کرده و هر پست یا حسابی را که معتقد است در حال جعل هویت اوست، گزارش کند.

چرا رویکرد اختیاری تیک‌ تاک در این زمینه اهمیت دارد؟

رویدادهای اخیر نشان داده‌اند که چطور سوءاستفاده از ظاهر و چهره افراد توسط هوش مصنوعی می‌تواند به سرعت جنجال‌برانگیز شود. در اوایل این ماه، شرکت متا (Meta) ابزار Muse Image را راه‌اندازی کرد که به هر کسی اجازه می‌داد با استفاده از عکس‌های عمومی اینستاگرام، تصاویر هوش مصنوعی تولید کند؛ قابلیتی که به صورت پیش‌فرض برای همه حساب‌ها فعال شده بود. واکنش‌ها و انتقادها به قدری سریع و تند بود که متا تنها سه روز بعد این ویژگی را متوقف کرد و پذیرفت که در محاسبات خود اشتباه کرده است.

تیک‌تاک این سناریو را معکوس کرده است: ابتدا احراز هویت انجام می‌شود، مشارکت کاملاً اختیاری است و تولیدکنندگان محتوا کنترل اوضاع را در دست دارند. با پیشگامی یوتیوب و تیک‌تاک در ارائه این نوع محافظت، ابزار تشخیص شباهت هوش مصنوعی به سرعت در حال تبدیل شدن به قابلیتی است که تولیدکنندگان محتوا انتظار دارند در هر پلتفرم ویدیویی بزرگی وجود داشته باشد.