مدیر عامل گوگل اذعان کرد عملکرد کلی هوش مصنوعی دارای مشکل توهم

گوگل یکی از شرکت هایی است که به فعالیت در زمینه هوش مصنوعی می پردازد. کمپانی که سعی داشته در این زمینه خود را به برند برتری تبدیل سازد.

ویژگی «نمایش‌های هوش مصنوعی» گوگل که اخیراً راه‌اندازی شده، با هدف ارائه خلاصه‌های مختصر در بالای نتایج جستجو، به دلیل ارائه اطلاعات نادرست و عجیب و غریب با انتقاداتی مواجه شده است. ساندار پیچای، مدیرعامل گوگل در مصاحبه اخیر با The Verge به وجود “توهمات” در مدل های هوش مصنوعی که این ویژگی را تقویت می کنند، اذعان کرد، مشکلی که او اذعان داشت هنوز حل نشده است.

کاربران موارد متعددی از ویژگی “نمای کلی هوش مصنوعی” را گزارش کرده اند که پاسخ های گمراه کننده و حتی اطلاعات غلط خطرناک را ارائه می دهد. به عنوان مثال می توان به پیشنهاد استفاده از چسب برای جلوگیری از سر خوردن پنیر از روی پیتزا و نسبت دادن اطلاعات نادرست به کارشناسان و متخصصان اشاره کرد. این ویژگی همچنین با تمایز حقایق از جوک یا طنز مبارزه کرده است که منجر به پاسخ‌های بی‌معنی شده است.

پیچای در این مصاحبه اعتراف کرد که “توهمات” تولید شده توسط ویژگی “خلاصه هوش مصنوعی” “نقص ذاتی” در مدل های زبان بزرگ (LLM) است که هسته اصلی این فناوری را تشکیل می دهد. او اظهار داشت که با وجود تلاش‌های مداوم مهندسان گوگل برای رسیدگی به پاسخ‌های مختلف عجیب و غریب و نادرست تولید شده توسط این ویژگی، این مشکل حل نشده باقی مانده است.

با این حال، پیچای همچنین اظهار داشت که «فقط به این دلیل که ویژگی خلاصه هوش مصنوعی گاهی اوقات اشتباه می‌کند، به این معنی نیست که مفید نیست. فکر نمی‌کنم این راه درستی برای نگاه کردن به آن باشد.» او اشاره کرد که گوگل در بهبود معیارهای دقت واقعی این ویژگی نسبت به سال گذشته پیشرفت داشته است و این صنعت به طور کلی در حال بهبود است، اگرچه مشکل هنوز حل نشده است.

خطاهای ایجاد شده توسط ویژگی “AI Overview” باعث سر و صدای آنلاین شده است و بسیاری از کاربران نمونه هایی از این ویژگی را به اشتراک می گذارند که اطلاعات نادرستی ارائه می دهند. این موضوع بیشتر به اعتبار موتور جستجوی گوگل لطمه می زند، موتوری که قبلاً به دلیل ارائه نتایج با کیفیت پایین به کاربران مورد انتقاد قرار گرفته بود.

این احساس، انتظارات بالای کاربران از دقت هوش مصنوعی و خطرات بالقوه ای که گوگل در به کارگیری زودهنگام این فناوری با آن مواجه است را برجسته می کند.

گوگل به دنبال ارتقا هوش مصنوعی خود

علی‌رغم مشکلات، پیچای به سودمندی ویژگی «خلاصه هوش مصنوعی» خوش‌بین است و اظهار می‌کند که پیشرفت خوبی وجود دارد. با این حال، وقوع مداوم خطاها بر نیاز به بهبود بیشتر و چالش‌های ذاتی در توسعه سیستم‌های هوش مصنوعی قابل اعتماد تأکید می‌کند. از آنجایی که گوگل و سایر غول‌های فناوری برای گنجاندن هوش مصنوعی در جنبه‌های مختلف زندگی ما رقابت می‌کنند، ایجاد تعادل بین نوآوری و اعتماد کاربران بسیار مهم است. برای جلوگیری از انتشار اطلاعات نادرست و حفظ اعتماد کاربران به خدماتی که ارائه می‌کنند، اطمینان از صحت و قابلیت اطمینان این فناوری‌ها باید اولویت اصلی باشد.

در دیگر خبرها اپل پیشتر اعلام کرد که اپل MACOS 10.15 دیگر از این مرورگر پشتیبانی نمی کند. پشتیبانی که کاربران باید به دنبال آن نسخه جدید را نصب کنند.

سیستم عامل اپل macOS 10.15 Catalina که در 3 ژوئن 2019 معرفی شد و به طور رسمی در 7 اکتبر 2019 دردسترس قرار گرفت، سیستم عامل نسل بعدی پس از macOS Mojave را نشان داد. با گذشت نزدیک به پنج سال از آغاز به کار، macOS Catalina به‌روزرسانی قابل توجهی در اکوسیستم اپل بوده است. با این حال، تحولات اخیر نشان دهنده تغییراتی در پشتیبانی گوگل کروم از این سیستم عامل است.

اسناد Google Chrome تغییری اساسی را در خط مشی پشتیبانی آن در مورد macOS 10.15 Catalina نشان می دهد. از نسخه 129، کروم از macOS 10.15 پشتیبانی نخواهد کرد زیرا سیستم عامل از دوره پشتیبانی اپل فراتر رفته است. این تصمیم بر اهمیت بروزرسانی سیستم عامل برای اطمینان از سازگاری مداوم با مرورگر کروم تاکید می کند.

کاربرانی که به استفاده از Chrome در macOS 10.15 ادامه می‌دهند، با نوار اعلان‌هایی مواجه می‌شوند که به آنها از قطع پشتیبانی مرورگر از این سیستم عامل اطلاع می‌دهد. این توسعه، ضرورت ارتقای سیستم عامل خود را برای حفظ تجربه مرور یکپارچه با کروم برای کاربران برجسته می کند. اگرچه کاربران همچنان می‌توانند از مرورگر در سیستم استفاده کنند، اما باید بدانند که هیچ حفاظتی از سوی Google دریافت نخواهند کرد.

منبع