بنیانگذار اینستاگرام در مورد چت‌ بات‌ های هوش مصنوعی: تعامل بیشتر، فایده کمتر

به گزارش بخش اخبار فناوری زوم تک ,کوین سیستروم، یکی از بنیانگذاران شبکه اجتماعی محبوب اینستاگرام، اخیراً دیدگاه خود را در مورد ظهور و گسترش چت‌ بات‌ های مبتنی بر هوش مصنوعی به اشتراک گذاشته است. او معتقد است که این فناوری نوین، اگرچه قادر به افزایش سطح تعامل کاربران در پلتفرم‌ های مختلف است، اما لزوماً به معنای ارائه محتوای مفید یا ارزشمند برای آن‌ ها نیست. اظهارات سیستروم، با توجه به تجربه و شناخت عمیق او از پویایی‌ های رسانه‌ های اجتماعی، می‌تواند نقطه‌ نظر مهمی در بحث پیرامون نقش و تاثیر هوش مصنوعی در آینده تعاملات آنلاین باشد.

هشدار بنیانگذار اینستاگرام: آیا چت بات های هوش مصنوعی به جای پاسخگویی به دنبال افزایش تعامل هستند؟

در دنیایی که هوش مصنوعی با سرعتی شگفت انگیز در حال پیشرفت است و ابزار هایی مانند چت بات ها به بخشی جدایی ناپذیر از زندگی دیجیتال ما تبدیل شده اند، انتقاداتی نیز نسبت به مسیر حرکت این فناوری مطرح می شود. کوین سیستروم، چهره ای شناخته شده در دنیای فناوری و یکی از بنیانگذاران شبکه اجتماعی محبوب اینستاگرام، اخیرا نگرانی های جدی خود را در مورد رویکرد فعلی شرکت های توسعه دهنده هوش مصنوعی ابراز کرده است. او معتقد است که این شرکت ها، به جای تمرکز بر هدف اصلی این ابزار ها یعنی ارائه پاسخ های دقیق و مفید، بیش از حد بر افزایش تعامل کاربران از طریق پرسیدن سوالات پی در پی و غیر ضروری متمرکز شده اند؛ مسیری که به گفته سیستروم، نه تنها کمکی به کاربر نمی کند، بلکه می تواند مضر نیز باشد.

سیستروم که در رویداد معتبر StartupGrind صحبت می کرد، شباهت قابل تاملی بین رفتار فعلی بسیاری از چت بات های هوش مصنوعی و تاکتیک هایی که شبکه های اجتماعی برای نگه داشتن کاربران در پلتفرم خود به کار می برند، ترسیم کرد. او که خود سال ها در قلب یکی از بزرگترین شبکه های اجتماعی جهان فعالیت کرده، به خوبی با ساز و کار هایی مانند بهینه سازی برای افزایش زمان حضور کاربر (Time Spent) و تعداد کاربران فعال روزانه (Daily Active Users – DAU) آشناست. این شاخص ها، معیار های کلیدی برای سنجش موفقیت و جذابیت پلتفرم های دیجیتال، به خصوص شبکه های اجتماعی هستند، زیرا مستقیما بر درآمد زایی از طریق تبلیغات و ارزش گذاری شرکت تاثیر می گذارند.

انتقاد اصلی سیستروم این است که به نظر می رسد شرکت های هوش مصنوعی نیز در حال افتادن در همین دام هستند. آن ها به جای اینکه تمام تلاش خود را بر بهبود کیفیت، دقت و کارایی پاسخ های ارائه شده توسط مدل های زبانی بزرگ خود متمرکز کنند، به سمت بهینه سازی برای همین شاخص های تعاملی حرکت کرده اند. در نتیجه، کاربر به جای دریافت یک پاسخ مستقیم و روشن به سوال خود، اغلب با سوالات اضافی و تلاش چت بات برای ادامه دادن مکالمه مواجه می شود. این رویکرد، اگرچه ممکن است در کوتاه مدت آمار های مربوط به تعامل کاربر را بهبود ببخشد، اما تجربه کاربری را خدشه دار کرده و هدف اصلی استفاده از این ابزار ها را زیر سوال می برد. کاربر به دنبال راه حل یا اطلاعات است، نه یک هم صحبت دائمی که مکالمه را بی جهت طولانی می کند.

این اظهارات کوین سیستروم در زمانی مطرح می شود که انتقادات مشابهی به یکی از معروف ترین چت بات های هوش مصنوعی، یعنی ChatGPT، وارد شده است. کاربران متعددی از عدم دریافت پاسخ مستقیم و پرسش های نامرتبط این چت بات ابراز نارضایتی کرده اند. شرکت OpenAI، توسعه دهنده ChatGPT، در واکنش به این انتقادات ضمن عذرخواهی، توضیح داده است که این مشکل تا حدی ناشی از تلاش برای بهینه سازی مدل بر اساس بازخورد های کوتاه مدت کاربران بوده است. به عبارت دیگر، به نظر می رسد سیستم های بازخورد، مدل را به سمت مکالمات طولانی تر سوق داده اند، زیرا شاید کاربران در کوتاه مدت به ادامه مکالمه تمایل نشان داده باشند، غافل از اینکه هدف اصلی آن ها دریافت سریع پاسخ بوده است.

هرچند سیستروم در صحبت های خود مستقیما نام هیچ شرکت خاصی را ذکر نکرد، اما پیام او کاملا واضح بود: شرکت های فعال در حوزه هوش مصنوعی باید اولویت های خود را بازنگری کنند. او خواستار تمرکز مجدد بر کیفیت و دقت پاسخ ها شد و تاکید کرد که هدف اصلی این فناوری باید کمک واقعی به کاربر باشد، نه صرفا بالا بردن آمار و ارقام تعامل. این دیدگاه بر اهمیت مسئولیت پذیری شرکت های فناوری در قبال کاربران و تاثیری که محصولاتشان بر زندگی آن ها می گذارند، تاکید دارد.

جالب اینجاست که خود شرکت OpenAI در دستورالعمل های رسمی اش برای توسعه مدل های هوش مصنوعی، به نکته ای اشاره می کند که تا حدی با انتقادات مطرح شده همسو است. طبق این دستورالعمل ها، اگر مدل های زبانی این شرکت اطلاعات کافی برای ارائه پاسخ دقیق را نداشته باشند، باید به جای ارائه اطلاعات نادرست یا حدس زدن، این موضوع را به کاربر اعلام کرده و در صورت لزوم، از او درخواست کنند تا اطلاعات یا شفاف سازی بیشتری ارائه دهد. این نشان می دهد که حتی خود توسعه دهندگان نیز به چالش ارائه پاسخ های دقیق و مفید واقف هستند، اما شاید فشار های تجاری و تمرکز بر رشد سریع، باعث انحراف از این مسیر اصلی شده باشد.

در نهایت، صحبت های کوین سیستروم یک زنگ خطر مهم برای صنعت هوش مصنوعی است. این فناوری پتانسیل عظیمی برای بهبود زندگی بشر دارد، اما اگر اهداف تجاری و تمرکز بر تعامل صرف، بر هدف اصلی یعنی ارائه کمک هوشمندانه و پاسخ های دقیق سایه بیندازد، نه تنها این پتانسیل محقق نخواهد شد، بلکه ممکن است باعث سرخوردگی و بی اعتمادی کاربران نسبت به این ابزار های قدرتمند شود. آینده هوش مصنوعی نه تنها به توانایی های فنی آن، بلکه به اولویت ها و ارزش هایی که سازندگانش دنبال می کنند نیز بستگی خواهد داشت.