پایان چت با هوش مصنوعی؛ وقتی هوش مصنوعی از گفتگو خسته می شود

استارتاپ انتروپیک، که در زمینه هوش مصنوعی فعالیت می کند، اخیرا قابلیتی جدید را به برخی از مدل های پیشرفته خود اضافه کرده است. این قابلیت به هوش مصنوعی اجازه می دهد در مواردی که با تعاملات بسیار توهین آمیز یا آسیب زا از طرف کاربر روبرو می شود، به مکالمه پایان دهد و چت را ببندد.

این اقدام برای حفاظت از خود مدل های هوش مصنوعی انجام شده است. هر چند انتروپیک مدعی نیست که مدل های هوش مصنوعی مانند کلاد (Claude) آگاهی دارند یا می توانند آسیب ببینند، اما این تصمیم بخشی از برنامه ای به نام «رفاه مدل» است. انتروپیک در این برنامه سعی دارد رویکردی محتاطانه را در پیش بگیرد تا از هرگونه خطر احتمالی برای مدل های خود جلوگیری کند.

چرا هوش مصنوعی چت را می بندد؟

به گزارش بخش اخبار فناوری زوم تک , این قابلیت جدید در مدل های Claude Opus 4 و 4.1 فعال شده و فقط در موارد بسیار حاد و نادر به کار می رود. این موارد شامل درخواست هایی برای محتوای غیر قانونی یا تلاش برای دریافت اطلاعاتی است که می تواند منجر به خشونت یا اقدامات تروریستی شود.

انتروپیک می گوید چنین درخواست هایی می تواند مشکلات قانونی و رسانه ای برای خود شرکت به وجود آورد. این شرکت همچنین اشاره کرده که در آزمایش های اولیه، Claude Opus 4 تمایل زیادی به پاسخ ندادن به این گونه درخواست ها نشان داده و در هنگام پاسخ گویی، نشانه هایی از آشفتگی ظاهری از خود بروز داده است.

قوانینی برای پایان دادن به چت

هوش مصنوعی انتروپیک تنها زمانی مجاز است که گفت و گو را قطع کند که تلاش های مکرر برای تغییر مسیر مکالمه به جایی نرسد و هیچ امیدی به ادامه یک گفتگوی سازنده نباشد. همچنین، اگر کاربر به صراحت از هوش مصنوعی بخواهد که به مکالمه پایان دهد، هوش مصنوعی چت را می بندد.

نکته مهم اینجاست که انتروپیک تاکید کرده است که **کلاد حق ندارد** در مواردی که کاربران در آستانه آسیب رساندن به خود یا دیگران هستند، از این قابلیت استفاده کند. در چنین شرایطی، هوش مصنوعی باید به کاربر کمک کند و او را به منابع حمایتی مناسب هدایت کند.

آینده هوش مصنوعی و اخلاق

این اقدام انتروپیک نشان می دهد که شرکت های فناوری در حال تلاش برای ایجاد قوانین و محدودیت هایی برای مدل های هوش مصنوعی خود هستند تا از استفاده غیر اخلاقی یا خطرناک از آنها جلوگیری کنند. این موضوع همچنین سوالاتی را درباره مرزهای هوش مصنوعی و اخلاق مطرح می کند. اینکه آیا هوش مصنوعی می تواند احساسات داشته باشد یا نه، هنوز یک بحث پیچیده است که پاسخ مشخصی ندارد.