کشف هوش مصنوعی مولد ایده با ابزار IdeaLens؛ تشخیص ریشه‌ای مقالات و ایده‌ های مصنوعی از انسانی

انقلابی جدید در تشخیص محتوای هوش مصنوعی؛ عبور از واژه‌ ها و بررسی ایده‌ ها

اکثر ابزارهای تشخیص هوش مصنوعی (AI Detectors) با بررسی الگوهای کلمات و ساختار جملات، به دنبال نشانه‌های متون تولیدشده توسط هوش مصنوعی می‌گردند. اما ابزار جدیدی به نام IdeaLens مسیر کاملاً متفاوتی را برای حل این چالش در پیش گرفته است. این ابزار جدید به‌جای تمرکز بر خود کلمات و نحوه نگارش، با تحلیل و بررسی ایده‌های پشت متن، پژوهش‌های تولیدشده توسط هوش مصنوعی را شناسایی می‌کند.

به گزارش بخش اخبار فناوری زوم تک به نقل از Digital Trends، پژوهشگرانی از دانشگاه مریلند، گوگل دیپ‌مایند (Google DeepMind) و دانشگاه سایمون فریزر ابزار IdeaLens را توسعه داده‌اند تا بررسی کنند آیا آرگومان‌ها و استدلال‌های اصلی یک سند علمی از ذهن انسان سرچشمه گرفته‌اند یا یک ماشین، صرف‌نظر از اینکه چه کسی پیش‌نویس نهایی متن را نوشته است.

ابزار IdeaLens چگونه ایده‌ های ساخته‌ شده توسط هوش مصنوعی را تشخیص می‌دهد؟

بر اساس مقاله پژوهشی منتشرشده، تیم توسعه‌دهنده ابزار IdeaLens را روی حدود یک میلیون سند علمی و متنی که قبلاً به عنوان «نوشته‌شده توسط انسان» یا «نوشته‌شده توسط هوش مصنوعی» برچسب‌گذاری شده بودند، آموزش دادند. آن‌ها از مدل‌های زبانی برای حذف عبارت‌پردازی‌های اولیه استفاده کردند و هر سند را تا سطح یک طرح کلی (Outline) و ساده از استدلال‌های اصلی آن کاهش دادند. این روش سیستم را مجبور کرد تا به‌جای سبک نگارش، دقیقاً از خود ایده‌ها یاد بگیرد.

دقت شگفت‌انگیز در تفکیک متون انسانی و مصنوعی

هنگامی که این سیستم روی اسنادی که به طور کامل توسط یکی از دو منبع (انسان یا ماشین) نوشته شده بودند تست شد، IdeaLens توانست ۹۱ درصد از کارهای تولیدشده توسط هوش مصنوعی را به درستی شناسایی کند. این ابزار متون نوشته‌شده توسط انسان را تنها در ۰.۶ درصد موارد به اشتباه تشخیص داد، اگرچه این میزان خطای اندک همچنان کمی عقب‌تر از آشکارسازهای تثبیت‌شده‌ای مانند Pangram قرار می‌گیرد.

اما نقطه عطف ماجرا زمانی رخ داد که پژوهشگران متونی را مورد آزمایش قرار دادند که تنها ویرایش‌های جزئی توسط هوش مصنوعی دریافت کرده بودند؛ در این حالت IdeaLens توانست ۹۵ درصد از اسناد تولیدشده توسط انسان را به عنوان متن انسانی طبقه‌بندی کند، در حالی که میانگین دقت آشکارساز Pangram در این سناریو تنها ۴۴ درصد بود.

آیا IdeaLens می‌تواند صاحب اصلی ایده را به طور دقیق شناسایی کند؟

نتایج در مواردی که ایده‌های انسانی و هوش مصنوعی با یکدیگر ترکیب شده بودند، بسیار جالب و قابل توجه بود:

• ایده انسانی + نگارش هوش مصنوعی: زمانی که هوش مصنوعی بر اساس یک طرح کلی و دقیق از سوی انسان متن را نوشت، آشکارسازهای سنتی مانند Pangram تا ۹۲ درصد دخالت هوش مصنوعی را کشف کردند، اما IdeaLens تنها ۷ درصد آن‌ها را پرچم‌گذاری کرد، زیرا خود ایده‌ها اصالت انسانی داشتند.
• ایده هوش مصنوعی + نگارش انسانی: سناریو را برعکس کنید؛ جایی که یک انسان کلمات را بر اساس طرح کلی تولیدشده توسط هوش مصنوعی نوشت. در این حالت IdeaLens حدود ۶۸ درصد از تاثیر هوش مصنوعی را شناسایی کرد، در حالی که Pangram تنها ۸ درصد آن را تشخیص داد.

تفاوت ایده‌ های انسانی و هوش مصنوعی در چیست؟

پژوهشگران دریافتند که ایده‌های تولیدشده توسط انسان تمایل دارند دارای جزئیات ملموس‌تر، منابع قابل راستی‌آزمایی و اذعان به محدودیت‌های تحقیق باشند. در مقابل، ایده‌های تولیدشده توسط هوش مصنوعی معمولاً دارای جزئیات عمومی، آمار و ارقام غیرقابل تایید، ادعاهای بسیار کلی و پاسخ‌های به طرز مشکوکی کامل و بی‌نقص هستند.

چالش‌ ها و افق آینده ابزار تشخیص هوش مصنوعی IdeaLens

با این حال، این ابزار تشخیص متون هوش مصنوعی هنوز برای حل کامل اختلافات ادعای مالکیت معنوی و نویسندگی آماده نیست. IdeaLens همچنان با برخی از مدل‌های جدیدتر هوش مصنوعی چالش دارد؛ از این رو تیم سازنده اعلام کرده است که پیش از استفاده گسترده در مجلات علمی و کلاس‌های درس، به آزمایش‌ها و ارزیابی‌های بیشتری نیاز است.