قابلیت جدید ساب‌استک برای تشخیص متن‌ های ساخته‌ شده با هوش مصنوعی؛ شناسایی ابزارهای تولید محتوا

پلتفرم ساب‌استک (Substack) ابزار جدیدی را در اختیار مخاطبان خود قرار داده تا بتوانند انسانی بودن یا تولید توسط چت‌بات‌های هوش مصنوعی را در پست‌های انتشاری بررسی کنند. این پلتفرم با همکاری شرکت پنگرام (Pangram) — که در زمینه تشخیص هوش مصنوعی فعالیت دارد — ابزارهای تازه‌ای ارائه کرده است تا کاربران امکان اسکن متون، یادداشت‌ها و پاسخ‌ها را داشته باشند. کریس بست (Chris Best)، مدیرعامل ساب‌استک، این ویژگی‌ها را در مطلبی با عنوان «مبارزه با کلاودفیشینگ» (Claudefishing) معرفی نمود؛ اصطلاحی که او برای محتواهای تولیدشده توسط هوش مصنوعی اما ارائه شده به اسم محتوای انسانی به کار می‌برد.

به گزارش بخش اخبار فناوری زوم تک به نقل از Digital Trends، ابزار جدید اسکن ساب‌استک روی هر متنی که بیش از ۱۰۰ کلمه داشته باشد و از تاریخ ۲۱ ژوئیه به بعد منتشر شده باشد، قابل اجراست و نتیجه آن تنها برای فرد درخواست‌کننده نمایش داده می‌شود. مدیرعامل ساب‌استک اذعان دارد که الگوریتم‌های Pangram کامل و بی‌نقص نیستند، اما به ارزیابی‌های مستقل اشاره می‌کند که حاکی از دقت بالای این سیستم است. این قابلیت در حال حاضر روی نسخه وب و سیستم‌عامل iOS فعال شده و نسخه اندروید آن نیز به‌زودی عرضه خواهد شد.

تطابق ابزارهای تشخیص متن هوش مصنوعی با موج جدید محتواهای فیک

ویژگی جدید تشخیص هوش مصنوعی ساب‌استک در زمانی ارائه می‌شود که چالش محتوای تولیدشده توسط ماشین به‌سرعت در حال گسترش در شبکه‌های اجتماعی است. بست به برآوردهای اخیر شرکت Pangram اشاره می‌کند که بر اساس آن، تا ۴۰ درصد از پست‌ها در برخی پلتفرم‌ها به طور کامل توسط هوش مصنوعی و چت‌بات‌ها تولید می‌شوند.

امکان اسکن پیش‌ نویس‌ ها برای نویسندگان پیش از انتشار

تنها خوانندگان نیستند که به کنترل‌های جدید دسترسی پیدا کرده‌اند، بلکه ساب‌استک بخش جدیدی تحت عنوان «نحوه ساخت این محتوا» (How I make this) اضافه کرده است که به نویسندگان اجازه می‌دهد فرآیند نگارش خود را توضیح داده و انتظارات مخاطب را شفاف‌سازی کنند. علاوه بر این، نویسندگان می‌توانند قبل از انتشار، اسکن Pangram را روی پیش‌نویس مقاله خود اجرا کنند و همچنین امکان گزارش و حذف اسکن‌های اشتباهی روی کارهای منتشرشده‌شان را دارا هستند. بست اشاره کرد که در آینده امکان اضافه شدن تنظیمات ترجیحی هوش مصنوعی در بخش قوانین پاسخ‌دهی (Reply Rules) و کنترل‌های سمت خواننده برای پیشنهاد محتوا وجود دارد.

این ابزار شفایت، یکی از اقدامات کم‌نظیر برای مقابله با محتوای بی‌کیفیت و اسپم هوش مصنوعی به شمار می‌رود. البته ساب‌استک تنها پلتفرمی نیست که برای حل این مشکل دست‌به‌کار شده است؛ شبکه اجتماعی لینکدین (LinkedIn) کاهش نرخ دسترسی (Reach) پست‌ها و کامنت‌های ساخته‌شده با هوش مصنوعی را آغاز کرده و شرکت متا (Meta) نیز در حال تست ابزار تشخیص محتوای هوش مصنوعی اختصاصی خود است. با این حال، اینکه آیا این ابزارهای تشخیصی می‌توانند همگام با پیشرفت سریع مدل‌های هوش مصنوعی حرکت کنند یا خیر، موضوعی است که در آینده مشخص خواهد شد.