ChatGPT در مقابل تقلب: آیا تشخیص محتوای تولید شده توسط هوش مصنوعی ممکن است؟

به گزارش بخش اخبار فناوری زوم تک, هوش مصنوعی، این فناوری شگفت‌انگیز که روزی رویا بود، حالا به بخشی جدایی‌ناپذیر از زندگی ما تبدیل شده است. اما این فناوری قدرتمند، تاریکی‌هایی نیز در دل خود دارد. یکی از این تاریکی‌ها، تهدید رو به رشد تقلب در محیط‌های آموزشی است. با ظهور ابزارهایی مانند ChatGPT، دانشجویان می‌توانند به راحتی تکالیف خود را با استفاده از هوش مصنوعی تولید کنند. اما آیا این امکان وجود دارد که بتوانیم محتوای تولید شده توسط هوش مصنوعی را از محتوای نوشته شده توسط انسان تشخیص دهیم؟

چت‌جی‌پی‌تی دیگر پنهان نمی‌ماند؛ OpenAI به زودی متون تقلبی را لو می‌دهد

OpenAI قصد دارد با معرفی ابزاری جدید، به جنگ تقلب‌های دانشجویی برود. این شرکت که خالق چت‌جی‌پی‌تی، یکی از قدرتمندترین مدل‌های زبانی است، در تلاش است تا روشی برای شناسایی متونی که توسط این هوش مصنوعی تولید شده‌اند، پیدا کند.

به گزارش وال استریت ژورنال، OpenAI در حال توسعه ابزاری است که می‌تواند به‌طور دقیق تکالیف و نوشته‌هایی را که با کمک چت‌جی‌پی‌تی انجام شده‌اند، تشخیص دهد. این ابزار با استفاده از یک روش نوین به نام “واترمارک‌گذاری متن”، تغییرات بسیار ریزی در ساختار جمله‌ها ایجاد می‌کند که برای انسان قابل تشخیص نیست، اما برای سیستم‌های تشخیصی این شرکت قابل شناسایی است.

این روش جدید نسبت به تلاش‌های قبلی برای تشخیص متن‌های تولیدشده با هوش مصنوعی، دقت بسیار بالاتری دارد. در واقع، OpenAI ادعا می‌کند که این واترمارک حتی در برابر دستکاری‌هایی مانند ترجمه و بازنویسی متن نیز مقاوم است.

اما چرا OpenAI به دنبال ساخت چنین ابزاری است؟ افزایش استفاده از ابزارهای هوش مصنوعی مانند چت‌جی‌پی‌تی در انجام تکالیف دانشجویی، نگرانی‌هایی را در مورد صداقت علمی ایجاد کرده است. بسیاری از معلمان و دانشگاه‌ها نگران هستند که دانشجویان از این ابزارها برای تقلب در انجام تکالیف خود استفاده کنند.

با این حال، این ابزار جدید با چالش‌هایی نیز همراه است. یکی از این چالش‌ها، تأثیر آن بر کاربران غیرانگلیسی‌زبان است. همچنین، برخی نگران هستند که این ابزار بتواند برای سانسور و کنترل محتوای تولید شده توسط هوش مصنوعی مورد استفاده قرار گیرد.

OpenAI هنوز تصمیم قطعی در مورد انتشار عمومی این ابزار نگرفته است، اما به نظر می‌رسد که این شرکت مصمم است تا با ارائه راهکارهایی برای تشخیص تقلب، به بهبود کیفیت آموزش و پژوهش کمک کند.