واترمارک نامرئی متون در کلود؛ جاه‌طلبی جدید آنتروپیک که به یک دردسر بزرگ تبدیل می‌شود

شرکت آنتروپیک (Anthropic) در تلاش است تا فرآیند شناسایی متون تولیدشده توسط هوش مصنوعی را به مراتب ساده‌تر کند و بر روی کاغذ، دلایل بسیار کمی برای مخالفت با این ایده وجود دارد. این کمپانی در حال آزمایش یک واترمارک نامرئی (Invisible Watermark) است که می‌تواند به طور مستقیم درون متون تولیدشده توسط مدل زبانی کلود (Claude) تعبیه و ادغام شود.

به گزارش بخش اخبار فناوری زوم تک به نقل از دیجیتال ترندز (Digital Trends)، این ایده در نگاه نخست کاملاً معقول و منطقی به نظر می‌رسد. امروزه محتوای متنی تولیدشده توسط هوش مصنوعی در سراسر وب فراگیر شده است و آگاهی از منبع و منشأ یک نوشته می‌تواند بسیار راهگشا باشد. علاوه بر این، آنتروپیک صرفاً یک برچسب یا کد مخفی را در گوشه‌ای از سند پنهان نمی‌کند؛ بلکه رویکرد این شرکت نحوه گزینش کلمات توسط کلود را دستکاری می‌کند تا یک الگوی آماری (Statistical Pattern) منحصربه‌فرد شکل بگیرد که بعداً توسط سیستم‌های نظارتی قابل ردیابی و کشف باشد.

اما در این میان، یک جزئیات نگران‌کننده وجود دارد: آنتروپیک در حال سنجش میزان مقاومت و ماندگاری این واترمارک است تا مشخص شود این نشانگر تا چه اندازه می‌تواند حتی پس از ویرایش، بازنویسی و تغییر ساختار متن پابرجا بماند. دقیقاً در همین نقطه است که می‌توان بوی دردسرهای جدی در آینده را احساس کرد.

کلود متن را ویرایش کرده است؛ آیا واقعاً هوش مصنوعی نویسنده آن است؟

برای چند لحظه به موضوع ترجمه متون فکر کنید. فرض کنید نویسنده‌ای یک مقاله پژوهشی کامل را شخصاً به زبان اسپانیایی نگارش کرده و از چت‌بات هوش مصنوعی کلود می‌خواهد آن را به زبان انگلیسی ترجمه کند. ایده‌ها متعلق به خود فرد است، تحقیقات توسط خود او انجام گرفته و استدلال‌ها تماماً حاصل تفکر اوست؛ تنها وظیفه کلود در این سناریو، تبدیل کلمات از زبانی به زبان دیگر بوده است.

با وجود این، متن انگلیسی نهایی همچنان حامل واترمارک متنی کلود خواهد بود.

همین ابهام و چالش بنیادین در مورد ویرایش و بازخوانی نگارشی (Proofreading) نیز پدیدار می‌شود. اگر فردی متنی را خود بنویسد و صرفاً از کلود درخواست کند تا خطاهای گرامری آن را برطرف سازد، چه رخ خواهد داد؟ اگر از هوش مصنوعی برای خلاصه‌سازی یک پاراگراف، تغییر لحن نوشتار، مرتب‌سازی متون پیاده‌شده از روی صوت یا روان‌تر کردن جملات پیچیده استفاده شود چطور؟

این سناریوها دیگر کاربردهای جانبی یا نادر فناوری نیستند. امروزه کاربران برای انجام وظایف روزمره‌ای که ارتباط ناچیزی با تولید محتوای صفر تا صد دارند، به دستیارهای هوشمندی همچون ChatGPT، گوگل جمینای (Gemini) و Claude اتکا می‌کنند. یک واترمارک می‌تواند به شما اطلاع دهد که کلود در بخشی از این متن دخالت داشته است؛ اما هرگز قادر نیست بگوید که آیا کلود واقعاً نویسنده اصلی متن بوده یا خیر. جالب اینجاست که آنتروپیک نیز بر همین موضوع تأکید دارد و اعلام کرده که واترمارک صرفاً مشارکت کلود را مشخص می‌سازد، نه اینکه چه کسی خالق اثر اولیه بوده است.

حال تصور کنید که پس از اسکن مقاله‌تان توسط نرم‌افزارهای دانشگاهی و اعلام اخطار تقلب، چگونه می‌خواهید این تفاوت ظریف را به استاد دانشگاه خود اثبات کنید!

سابقه آشفته و پرخطای نرم‌افزارهای تشخیص هوش مصنوعی

اگر سابقه ابزارهای تشخیص هوش مصنوعی (AI Detectors) درخشان بود، شاید این حجم از نگرانی منطقی به نظر نمی‌رسید؛ اما متأسفانه عملکرد گذشته این ابزارها به شدت غیرقابل اعتماد بوده است.

راهنمای منتشرشده توسط دانشکده مدیریت اسلون در ام‌آی‌تی (MIT Sloan) واقعیت دیتکتورهای فعلی هوش مصنوعی را به روشنی بیان می‌کند. طبق این مستندات، ابزارهای موجود دارای نرخ خطای بسیار بالایی هستند و می‌توانند مدرسان را به سمت اتهام‌زنی‌های نادرست علیه دانشجویان بی‌گناه سوق دهند.

ما پیش از این بارها شاهد پیامدهای منفی این وضعیت در دنیای واقعی بوده‌ایم. دانشجویان متعددی مجبور شده‌اند از مقالاتی که شخصاً به رشته تحریر درآورده بودند دفاع کنند، صرفاً به این علت که الگوریتم‌های خودکار آن‌ها را به اشتباه به عنوان متن تولیدشده توسط هوش مصنوعی پرچم‌گذاری کرده بودند. در یک نمونه گزارش‌شده توسط روزنامه گاردین (The Guardian)، مقاله یک دانشجو به طور کامل به عنوان محتوای هوش مصنوعی شناسایی شد، در حالی که دانشجو تنها از ابزارهای مجاز تصحیح املا و دستور زبان استفاده کرده بود؛ هرچند در نهایت با تجدیدنظر موافقت شد.

البته باید اشاره کرد که مکانیزم واترمارک کلود از نظر فنی با دیتکتورهای سنتی تفاوت بنیادین دارد. ابزارهای متعارف تشخیص محتوا، ساختار متن را آنالیز کرده و بر مبنای احتمالات حدس می‌زنند که آیا یک هوش مصنوعی آن را نگاشته است یا خیر. اما شرکت آنتروپیک به شکلی عامدانه یک نشانه آماری قابل ردیابی را درون خروجی‌های کلود قرار می‌دهد. از نظر تئوری، این راهکار باید دقت و اعتماد به سیستم را به شدت افزایش دهد؛ اما چالش اصلی صرفاً قابلیت اطمینان نیست، بلکه نحوه تفسیر داده‌ها است.

چرخه باطل: استفاده از هوش مصنوعی برای اثبات عدم استفاده از هوش مصنوعی!

وضعیت کنونی به مرحله‌ای کاملاً طنزآمیز و تناقض‌آمیز رسیده است.

دانشجویانی که از حساسیت‌های بی‌مورد دیتکتورهای هوش مصنوعی هراس دارند، اکنون به ابزارهایی موسوم به انسانی‌ساز هوش مصنوعی (AI Humanizers) پناه می‌برند؛ پلتفرم‌هایی که متن را به شکلی بازنویسی می‌کنند تا سیستم‌های تشخیص نتوانند آن را ردیابی کنند. برخی دانشجویان حتی نوشته‌های دست‌نویس و اصیل خود را نیز وارد این ابزارها می‌کنند تا مبادا با خطای مثبت کاذب (False Positive) مواجه شوند. در نقطه مقابل، توسعه‌دهندگان نرم‌افزارهای تشخیص نیز در حال طراحی الگوریتم‌هایی برای ردیابی ابزارهای انسانی‌ساز هستند.

یک بار این فرآیند را مرور کنید: یک انسان متنی را می‌نویسد، سپس نگران می‌شود که مبادا یک سیستم کامپیوتری کار او را به عنوان خروجی هوش مصنوعی تلقی کند؛ بنابراین متن را به یک هوش مصنوعی دیگر می‌دهد تا آن را انسانی‌تر جلوه دهد، و در ادامه سیستم هوش مصنوعی سومی وارد عمل می‌شود تا مشخص کند آیا ابزار قبلی متن را شبیه انسان بازنویسی کرده است یا نه!

این پدیده در واقع یک اوروبوروس فناورانه (Technological Ouroboros) یا چرخه‌ای بی‌پایان از تناقضات است.

مقاوم‌سازی واترمارک مخفی کلود به گونه‌ای که حتی در برابر بازنویسی و ترجمه پابرجا بماند، از جنبه مهندسی یک شاهکار چشمگیر است. تحقیقات پیشین نشان داده بود که عمل ترجمه می‌تواند بسیاری از متدهای واترمارک‌گذاری متن را خنثی سازد؛ بنابراین حل این نقطه‌ضعف پیشرفتی معنادار محسوب می‌شود. با این حال، دشوارتر کردن حذف سیگنال، پاسخگوی صورت‌مسئله اصلی نخواهد بود.

ضرورت درک زمینه و بستر کاربرد ابزارهای متنی

دلایل موجه و مهمی برای نشانه‌گذاری متون مبتنی بر هوش مصنوعی وجود دارد؛ این اقدام می‌تواند در ردیابی اخبار کذب و اطلاعات گمراه‌کننده تولید انبوه، متون سنتتیک اعلام‌نشده و جلوگیری از ورود داده‌های تولیدی ماشین به مجموعه‌های آموزشی مدل‌های آینده بسیار حیاتی باشد.

با این وجود، واقعیت این است که دستیارهای مبتنی بر مدل‌های زبانی بزرگ دیگر تنها برای تولید صفر تا صد یک متن به کار نمی‌روند. افراد از این چت‌بات‌ها برای ترجمه مقالات، بازخوانی متون، خلاصه‌سازی تحقیقات طولانی، کمک به توسعه کدها، بهبود دسترسی‌پذیری یا حتی بازبینی ساده یک ایمیل کاری پیش از ارسال بهره می‌برند. در چنین ساختاری، تشخیص ردپای هوش مصنوعی در متن، لزوماً به این معنا نیست که چه کسی ایده‌پرداز و خالق واقعی اثر بوده است.

میزان درگیری هوش مصنوعی در هر یک از این فرآیندها کاملاً متفاوت است. اگر کلود یک مقاله را به تنهایی از ابتدا بنویسد، دانستن آن بسیار مهم و ارزشمند است. اما اگر کلود مقاله‌ای را ترجمه کند که پژوهشگر برای جمع‌آوری اطلاعات و نگارش آن هفته‌ها زمان گذاشته است، آشکار شدن دخالت کلود اطلاعات بسیار اندکی از هویت اصلی نویسنده به ما می‌دهد.

واترمارک جدید ممکن است پاسخی قطعی به این سوال باشد که «آیا کلود با این متن تماس داشته است؟»؛ اما نگرانی اساسی زمانی آغاز می‌شود که ارزیابان و نهادهای آموزشی، این برچسب را به عنوان پاسخ مثبت به پرسش «آیا کلود این متن را نوشته است؟» برداشت کنند.

کمپانی آنتروپیک می‌تواند پیشرفته‌ترین و هوشمندانه‌ترین واترمارک دنیا را پیاده‌سازی کند؛ اما تا زمانی که افراد استفاده‌کننده از این ابزارها تفاوت میان «ابزار کمکی» و «خالق اثر» را درک نکنند، بی‌تردید باید منتظر آشفتگی‌های متعددی در فضاهای آموزشی و کاری باشیم.