هوش مصنوعی اپل دوباره خبرهای جعلی منتشر کرد: این روند باید متوقف شود!

هوش مصنوعی اپل گویا علاقه زیادی به تولید اخبار جعلی دارد! از اعلام خودکشی یک فرد زنده تا همجنسگرا اعلام کردن رافائل نادال، این هوش مصنوعی حسابی خبرساز شده است. ظاهرا اپل باید فکری به حال این بچه بازیگوشش بکند وگرنه ممکن است به زودی با یک فاجعه خبری روبرو شویم!

انتشار خبر جعلی توسط هوش مصنوعی اپل

به گزارش زوم تک از تامز گاید، خلاصه اخبار تولید شده توسط هوش مصنوعی اپل نشان می‌ دهد که اعتماد ضمنی به هوش مصنوعی می‌ تواند تا چه حد نگران کننده باشد.

ماه گذشته، هوش مصنوعی اپل در مورد خبر داغ روز، یعنی قتل مدیرعامل یونایتد هلثکر، اشتباه فاحشی را مرتکب شد و مدعی شد که لوئیجی مانجیونه، مظنون به قتل، خودکشی کرده است.

این هفته، هوش مصنوعی اپل دو اشتباه شرم‌آور دیگر را برای کاربران برنامه بی‌بی‌سی رقم زد. در اشتباه اول، ادعا شد که لوک لیتلر، بازیکن دارت، قهرمان مسابقات جهانی PDC شده است، در حالی که او فقط به فینال راه یافته بود. در اشتباه دوم که در ۹ کلمه خلاصه شده بود، آمده بود: “رافائل نادال، تنیسور برزیلی، به عنوان همجنسگرا از گنجه بیرون آمد.”

رافائل نادال، که اصالتاً اسپانیایی است، چنین خبری را اعلام نکرده بود. خبر اصلی در واقع درباره ژائو لوکاس ریس دا سیلوا، بازیکن برزیلی بود و اینکه چگونه او با ارسال پیام تبریک تولد به دوست پسرش در اینستاگرام، ناخواسته به یک چهره پیشگام در جامعه دگرباشان جنسی تبدیل شد. نکته عجیب این است که هیچ یک از کلمات “رافائل” یا “نادال” در خبر اصلی وجود ندارد و این موضوع، این اشتباه هوش مصنوعی را مرموزتر می‌کند.

سخنگوی بی‌بی‌سی، به‌طور قابل‌درکی، از این موضوع ناراحت بود. در بیانیه‌ای آمده است: “ضروری است که اپل این مشکل را فوراً برطرف کند، زیرا این اتفاق چندین بار رخ داده است.”

“به عنوان معتبرترین سازمان رسانه‌ای خبری در جهان، بسیار مهم است که مخاطبان بتوانند به هر اطلاعات یا روزنامه‌نگاری منتشر شده به نام ما، از جمله اعلان‌ها، اعتماد کنند.”

اپل هنوز در مورد گزارش اخیر بی‌بی‌سی اظهار نظری نکرده است، اگرچه در این مقاله اشاره شده است که آخرین بار این شرکت ترجیح داد سکوت کند. در جای دیگر، اپل اینسایدر خاطرنشان می‌کند که تیم کوک پیش از این گفته بود که نتایج هوش مصنوعی اپل “بسیار باکیفیت” خواهد بود، اما “کامل نخواهد بود”.

ما فکر نمی‌کنیم که او این نقص را برای تیترهای خبری قابل قبول بداند، به همین دلیل است که این روند باید متوقف شود.

روشن کردن نقص‌های هوش مصنوعی

اگر نکته مثبتی در این داستان وجود داشته باشد، این است: این اشتباهات واضح، به راحتی قابل رد شدن و احتمالاً توسط افراد زیادی دیده می‌شوند.

مشکل سایر اشتباهات هوش مصنوعی این است که آنها فقط توسط یک نفر در یک زمان دیده می‌شوند، زیرا آنها در لحظه برای مطابقت با درخواست بسیار خاص یک شخص ایجاد می‌شوند.

به عنوان مثال، جستجوی گوگل را در نظر بگیرید. تخمین زده می‌شود که “روزانه بیش از ۸.۵ میلیارد جستجو” انجام می‌شود و اکنون که گوگل از یک نمای کلی هوش مصنوعی برای خلاصه کردن پاسخ (گاهی اوقات خطرناک) استفاده می‌کند، بسیاری از این جستجوها به نام صرفه‌جویی در کلیک کاربران، اطلاعات بی‌معنی تولید می‌کنند.

دانستن اینکه چند نفر کورکورانه این اشتباهات را به عنوان واقعیت می‌پذیرند غیرممکن است و در بیشتر موارد، بی‌دقتی‌ها بی‌اهمیت خواهند بود. با این وجود، غم‌انگیز است که اینترنت، که زمانی به عنوان یک ابزار آموزشی عالی در نظر گرفته می‌شد، می‌تواند ناخواسته کاربران را به نام راحتی، به اشتباه بیاندازد.

با توجه به اینکه هوش مصنوعی اپل این خلاصه‌ها را به طور همزمان برای میلیون‌ها کاربر ارسال می‌کند، موضوع کمی متفاوت است. در حالی که بی‌بی‌سی خاطرنشان می‌کند که متون منحصر به فرد خواهند بود زیرا “ترکیب‌های مختلف اعلان‌ها خلاصه می‌شوند”، اما احتمالاً افراد زیادی اشتباهات مشابهی را خواهند دید و این امر رد کردن اخبار نادرست را آسان‌تر می‌کند.

این امر به ویژه زمانی صادق است که برخلاف خلاصه‌های جستجو، اعلان‌ها برای تشویق کلیک کردن طراحی شده‌اند. اگر کاربری روی اعلان ضربه بزند، به سرعت متوجه می‌شود که لوئیجی مانجیونه زنده است، رافائل نادال از گنجه بیرون نیامده است و لوک لیتلر هنوز قهرمان مسابقات جهانی PDC نشده است (در واقع او در روز جمعه قهرمان شد).

امیدواریم این اشتباهات اولیه، مردم را نسبت به پذیرش میانبرهای هوش مصنوعی کمی بدبین‌تر کند. اگر چنین باشد، به طرز عجیبی، این اشتباهات بزرگ اپل می‌تواند لطف بزرگی در حق جهان باشد.

اپل چه باید بکند؟

این واقعیت که این اشتباهات تاکنون نسبتاً جزئی بوده‌اند، نباید برای کسی مایه آرامش خاطر باشد. هیچ فاجعه‌ای به این دلیل رخ نخواهد داد که کسی به اشتباه فکر کند یک بازیکن دارت زودتر از موعد در یک تورنمنت برنده شده است، اما همه اشتباهات برابر نیستند. اگر هوش مصنوعی اپل در مورد چیزی مهم، مثلاً یک حمله هسته‌ای یا یک حادثه تروریستی، دچار اشتباه شود، پتانسیل وحشت عمومی بسیار زیاد است.

هر چه تیترهای خبری نادرست بیشتری منتشر کند، اپل حسن نیتی را که با راه‌اندازی هوش مصنوعی اپل به دست آورده بود، از بین می‌برد. عاقلانه است که این شرکت این ویژگی را تا زمانی که اقدامات حفاظتی بیشتری انجام شود، به طور نامحدود متوقف کند، هم برای حفظ اعتبار خود و هم برای جلوگیری از اشتباهات جدی‌تر.