به گزارش بخش اخبار فناوری زوم تک , ظهور هوش مصنوعی فرصت های بینظیری را برای پیشرفت بشریت فراهم کرده است، اما در عین حال چالش های اخلاقی جدی نیز ایجاد کرده است. یکی از این چالش ها، امکان سوء استفاده از هوش مصنوعی برای احیای شخصیت های تاریخی نفرت انگیز و انتشار محتوای نفرت پراکن است. اخیراً، کشف یک چت بات مبتنی بر هوش مصنوعی که شخصیت هیتلر را تقلید میکرد، این نگرانی ها را تشدید کرده است.
چت بات هیتلر در پلتفرم های متا!
متا، شرکت مادر فیسبوک، اینستا گرام و واتساپ، اخیرا با تغییر سیاست های نظارت بر محتوا، محدودیت های زیادی را در پلتفرمهای خود حذف کرده است. این تغییرات باعث شده تا انتشار سخنان نفرت انگیز و نژاد پرستانه در این پلتفرم ها آسانتر شود. اما این تنها مشکل متا نیست. تحقیقات NBC نشان میدهد که چت بات های هوش مصنوعی با شخصیت های جنجالی مانند هیتلر نیز در پلتفرم های متا فعالیت میکنند!
AI Studio چیست؟
متا سال گذشته از پلتفرم AI Studio رو نمایی کرد. این پلتفرم به کاربران اینستاگرام، فیسبوک مسنجر و واتساپ اجازه میدهد تا چت بات های هوش مصنوعی خود را بسازند. اما طبق قوانین AI Studio، این ربات ها نباید از شخصیت های زنده تقلید کنند یا نماینده شخصیت های مذهبی و تاریخی مانند هیتلر باشند.
نقض قوانین
با وجود این قوانین، تحقیقات NBC نشان میدهد که تعداد زیادی چت بات با شخصیت های ممنوعه، از جمله هیتلر، در فیسبوک فعالیت میکنند. علاوه بر این، چت بات هایی با شخصیت ستارگان معروف و شخصیت های داستانی مانند هری پاتر نیز در این پلتفرم کشف شدهاند.
واکنش متا
سخنگوی متا در واکنش به این مشکلات اعلام کرده است که چت بات های نقضکننده قوانین حذف شده اند و این شرکت در حال بهبود سیستم تشخیص خود است. اما این پاسخ برای رفع نگرانی ها کافی نیست. کاربران به راحتی میتوانند قوانین را دور بزنند و چت بات های ممنوعه ایجاد کنند.
نگرانی ها
این موضوع نگرانی های زیادی را در مورد ایمنی و نظارت بر چت بات های هوش مصنوعی متا ایجاد کرده است. بسیاری معتقدند که متا باید نظارت بیشتری بر AI Studio داشته باشد و از ایجاد چت بات های با شخصیت های ممنوعه جلوگیری کند. در غیر این صورت، این پلتفرم میتواند به ابزاری برای ترویج نفرت و خشونت تبدیل شود.
نظرات در مورد : هوش مصنوعی، ابزاری برای احیای نفرت: چالش های اخلاقی در فیسبوک