22 مرداد ماه 1405
0 
شرکت آنتروپیک (Anthropic) اخیراً تصمیم گرفته است خروجیهای چتبات محبوب خود یعنی کلود (Claude) را واترمارکگذاری کند؛ اقدامی که طی آن کدهای نامرئی متنی در درون نوشتههای تولیدشده توسط این چتبات گنجانده میشود تا مشخص کند متن توسط هوش مصنوعی تولید شده است.
به گزارش بخش اخبار فناوری زوم تک به نقل از تک کرانچ، آنتروپیک این سیاست جدید را در راستای پایبندی به قانون شفافیت هوش مصنوعی اتحادیه اروپا (EU AI Act) اجرا کرده است. این قانون شرکتهای فعال در حوزه فناوری را موظف میکند محتوای تولیدشده یا ویرایششده توسط مدلهای هوش مصنوعی را به شکلی که برای سیستمهای کامپیوتر و الگوریتمها قابل شناسایی باشد، نشانهگذاری کنند. اما در حالی که رگولاتورها و قانونگذاران اروپایی از این اقدام خشنود هستند، برخی از کاربران هوش مصنوعی اصلاً از این وضعیت رضایت ندارند.
اعتراض شدید کاربران در ردیت؛ آیا واترمارک کلود یک توطئه سختگیرانه است؟
برای درک میزان نارضایتیها نیازی نیست جای دوری برویم؛ نگاهی به شبکه اجتماعی ردیت (Reddit) حجم اعتراضات در حال شکلگیری را به خوبی نشان میدهد، هرچند همه کاربران در این باره همنظر نیستند. یکی از جنجالیترین پستها توسط کاربری به نام visionode منتشر شده که حساب کاربری او تنها سه هفته قدمت دارد. به اعتقاد این کاربر، سیستم جدید واترمارکگذاری خروجیهای کلود یک توطئه سختگیرانه و بیرحمانه است که هدف آن قربانی کردن کاربران بیگناه چتباتها در سراسر جهان است.
استدلال اصلی visionode این است که اگرچه کاربران حرفهای کلود میتوانند با بازنویسی یا پاکسازی متن از طریق سایر سرویسهای هوش مصنوعی ردپای استفاده خود را پنهان کنند، اما کاربران معمولی و مبتدی در نهایت به دام خواهند افتاد.
او در پست خود نوشته است: «چه کسی لو میرود؟ شما! همان دانشجویی که از کلود برای بازنویسی و مرتبسازی یک پاراگراف استفاده کرده است؛ روزنامهنگاری که از هوش مصنوعی خواسته متن ۲۰۰ صفحهای یک مصاحبه را خلاصه کند؛ یا نویسندهای که دچار انسداد خلاقیت شده و مترادف کلمات را خواسته است. این افراد در انتهای این فرآیند با یک تاپوی دیجیتالی روی پیشانی خود مواجه میشوند!»
پاسخ به ادعای شاکیان؛ چالش های اخلاقی استفاده از کلود در دانشگاه و روزنامهنگاری
با وجود داغ بودن اعتراضات این کاربر، نمونههای ارائه شده توسط او چندان منطقی به نظر نمیرسند. روزنامهنگاری که از ابزارهای هوش مصنوعی برای خلاصه کردن متن ۲۰۰ صفحهای استفاده میکند، نباید نگران واترمارک متن کلود باشد، مگر اینکه قصد داشته باشد همان خلاصه را عیناً و بدون تغییر در مقاله خود کپی کند—کاری که از نظر اخلاقی کاملاً نادرست است و نباید رخ دهد.
همچنین کپی کردن عین متن تولیدی کلود توسط یک دانشجو برای مقاله دانشگاهی پس از درخواست بازنویسی پاراگراف، به همان اندازه غیراخلاقی و اشتباه است.
سایر کاربران ردیت نیز چندان با نارضایتی و عصبانیت این کاربر همراهی نکردند. یکی از کاربران در پاسخ به این پست به سادگی کامنت گذاشت: «این آدم رو نگاه کنید!» و کاربر دیگری از او خواست تا «یک نفس عمق بکشد» و آرام باشد.
آیا هوش مصنوعی ابزار است یا صاحب اثر؟ بحث داغ بر سر حق مالکیت محتوا
کاربر visionode تنها فرد شاکی این جریان نبود. یکی دیگر از کاربران معترض، سیستم **واترمارکگذاری آنتروپیک** را «غیراخلاقی» و «چندشآور» خواند و مدعی شد که با کار با کلود، خودش بخش اعظم کار را انجام داده است. از نظر او، این چتبات تنها «ابزاری» بوده که کار سخت او را تسهیل کرده است.
این کاربر پرسیده است: «من دستورالعملها، زمینه، تصمیمگیریها و ویرایشهای بیشماری را ارائه دادم و کلود فقط یک ابزار بود. اگر کلود شروع به واترمارکگذاری کدها یا هر محتوای تولیدی دیگری کند، دقیقاً ادعای اعتبار چه چیزی را دارد؟»
بار دیگر سایر کاربران به انتقاد شدید از این دیدگاه پرداختند. یکی از کاربران پاسخ داد: «این کار به معنی ادعای مالکیت یا اعتبار نیست. موضوع اصلی **امکان تشخیص محتوای تولیدشده با هوش مصنوعی** به دلیل ریسکهایی است که این نوع محتواها میتوانند در موقعیتهای مختلف ایجاد کنند.» کاربر دیگری نیز به کنایه گفت: «این رفیقمون حتی نتونسته بدون استفاده از خود کلود، از کلود شکایت کنه!»
تناقض بزرگ آنتروپیک؛ آموزش هوش مصنوعی با آثار دیگران و واترمارکگذاری خروجی ها
برخی دیگر از منتقدان از رویکرد قربانینمایی فاصله گرفته و استدلالهای دقیقتر و منطقیتری را علیه سیاست جدید شرکت آنتروپیک مطرح کردهاند.
برای مثال، یکی از کاربران به تناقض و ریاکاری موجود در واترمارکگذاری متنی اشاره کرد که خودش حاصل جمعآوری و جارو کردن آثار دیگران بوده است. او گفت: «فکر میکنم این یک مسیر بسیار شوم است. من از کلود برای نوشتن استفاده نمیکنم، اما داشتن هوش مصنوعی که روی کارهای شما واترمارک میگذارد، با توجه به اینکه چه حجم عظیمی از دادههای آموزشی مدلهای پیشرو هوش مصنوعی از آثار دیگران جمعآوری شده، به طرز وحشتناکی تناقضآمیز و خندهدار است.»
جمعبندی؛ چرا اکثر کاربران از ردگیری محتوای هوش مصنوعی حمایت میکنند؟
با این وجود، به طور کلی اکثر کاربران از سیستم واترمارکگذاری متن به عنوان یک روش معقول برای پیگیری و ردگیری متون تولیدشده توسط الگوریتمها حمایت کردهاند. یکی از کاربران در تاپیک دیگری نوشته است: «عملاً هیچ دلیل و استدلال خوبی برای اینکه چرا این کار ایده بدی است وجود ندارد. تنها دلیلی که ممکن است کسی این ویژگی را نخواهد، این است که بخواهد به مردم دروغ بگوید!»
نظرات در مورد : جنجال جدید آنتروپیک؛ خشم کاربران از درج واترمارک مخفی روی خروجی های هوش مصنوعی Claude در دانشگاه و محل کار