هوش مصنوعی گوگل؛ میدان مینی پیش روی مدارس و آینده دانش‌آموزان

مدافعان حقوق آموزشی و فعالان ایمنی کودکان به شدت از مدارس خواسته‌اند تا پیوند و قراردادهای خود را با شرکت گوگل به دلیل ادغام هوش مصنوعی گوگل در موتور جستجو قطع کنند.

به گزارش بخش اخبار فناوری زوم تک به نقل از رسانه فناوری ماشابل (Mashable)، نسل هزاره (اولین نسلی که با کامپیوترها بزرگ شد)، سخنرانی‌ها و هشدارهای کلاسی متعددی را درباره غیرقابل‌اعتماد بودن ویکی‌پدیا به یاد می‌آورد. به ما گفته می‌شد که مراقب پست‌های تاییدنشده در فروم‌ها و انجمن‌ها باشیم. به ما توصیه می‌شد که به دنبال منابع دست اول در شبکه جهانی وب بگردیم و بهترین نقطه برای شروع، گوگل بود. اما اکنون، با ورود نسل آلفا به کلاس‌های درس مجهز به هوش مصنوعی، آیا دیگر نمی‌توان به موتور جستجوی گوگل اعتماد کرد؟

گزارش جدیدی از دیده‌بان ایمنی کودکان، یعنی موسسه Common Sense Media، به این نتیجه رسیده است که نسخه مدرن و مجهز به هوش مصنوعی گوگل ریسک غیرقابل‌قبولی را برای کاربران جوان و دانش‌آموزان ایجاد می‌کند. در واقع، نویسندگان این گزارش می‌گویند که هوش مصنوعی مولد در موتور جستجو به قدری خطرناک است که دانش‌آموزان باید استفاده از آن را کاملاً متوقف کنند، مگر اینکه معلمان و مسئولان آموزشی بتوانند این قابلیت هوش مصنوعی را در محیط مدرسه غیرفعال کنند.

هوش مصنوعی گوگل در نقش یک تهدید جدی برای کلاس‌ های درس

مدافعان ایمنی کودکان سال‌هاست که از مدارس می‌خواهند تا استفاده از برخی فناوری‌های کلاسی را کنار بگذارند. با ادغام هوش مصنوعی مولد در محصولات آموزشی، این فریادها بلندتر شده است. با اینکه تشخیص آسیب‌های بالقوه معرفی ابزاری مانند چت‌جی‌پتی (ChatGPT) به دانش‌آموزان خردسال کار چندان سختی نیست، اما شاید چندان واضح نباشد که یک جستجوی ساده در گوگل نیز می‌تواند یادگیرندگان جوان را در معرض خطرات هوش مصنوعی قرار دهد.

گوگل سال گذشته قابلیت حالت هوش مصنوعی (AI Mode) را برای موتور جستجوی خود راه‌اندازی کرد. برخلاف فرآیند تدریجی معرفی قابلیت AI Overviews، حالت هوش مصنوعی بلافاصله و به سرعت در اختیار همه کاربران، از جمله حساب‌های کاربری آموزشی قرار گرفت. موسسه Common Sense Media و دیگر کارشناسانی که با ماشابل گفتگو کردند، این اقدام را نگران‌کننده خواندند؛ به ویژه به این دلیل که این قابلیت توسط مدل‌های گوگل جمینای (Gemini) پشتیبانی می‌شود — مدل‌هایی که دسترسی به آن‌ها در سایر بخش‌های گوگل، از جمله مجموعه فناوری‌های آموزشی این شرکت، دارای محدودیت سنی است.

رابی تورنی (Robbie Torney)، مدیر ارشد برنامه‌های هوش مصنوعی در Common Sense Media توضیح داد که گوگل سرچ محصول کلیدی این غول فناوری و ابزاری ضروری برای معلمان و دانش‌آموزان است: «گوگل یک بازیگر بسیار بزرگ و تأثیرگذار در هر دو حوزه جستجوی اینترنتی و فضای آموزشی به شمار می‌رود.»

این شرکت پیش‌گام حرکتی بود که منجر به ورود دستگاه‌های شخصی مانند کروم‌بوک‌ها (Chromebooks) به مدارس سراسر کشور شد. در حال حاضر سرویس Google Workspace for Education سیستم‌های اداری و منابع کلاسی را مدیریت می‌کند. گوگل بعدها به یکی از مبلغان اصلی پیاده‌سازی هوش مصنوعی تبدیل شد و ابزار Gemini for Education را معرفی و سپس مقیاس آن را گسترش داد. این شرکت اکنون به داشتن میلیون‌ها کاربر در بخش‌های مختلف آموزشی، از مهدکودک تا مقاطع پس از فارغ‌التحصیلی، افتخار می‌کند.

به گفته منابع آگاه، گوگل با تبدیل هوش مصنوعی مولد به بخش اساسی و جدایی‌ناپذیر محصولات خود — تا حدی که بسیاری از کاربران حتی متوجه استفاده از آن نمی‌شوند — اعتماد چندین و چند ساله جامعه را خدشه‌دار کرده است.

جستجو در گوگل دیگر به سادگی گذشته نیست

از یک سو، محققان دریافته‌اند که بخش خلاصه‌های هوش مصنوعی گوگل (AI Overviews) تمایل زیادی به تکرار اطلاعات نادرست و شایعات دارد؛ یک نقطه ضعف اولیه که این غول فناوری هنوز آن را برطرف نکرده است. منابع به ماشابل گفتند که دقیقاً مانند مشکلات موجود در چت‌بات‌ها، طراحی این محصول به گونه‌ای است که لحنی مقتدرانه و کاملاً موثق را القا می‌کند که به راحتی می‌تواند بزرگسالان را گمراه کند، چه برسد به کودکان.

علاوه بر این، موسسه Common Sense Media دریافت که ابزارهای هوش مصنوعی گوگل به راحتی تکالیف مدرسه را برای کاربران کم‌سن‌وسال انجام می‌دهند. کارشناسان بر این باورند که ترکیب طراحی گمراه‌کننده، پاسخ‌های متغیر و ماهیت مطیع چت‌بات‌ها (از جمله حالت AI Mode) ممکن است دانش‌آموزان را به سمت تقلب ناخواسته سوق دهد. آن‌ها می‌گویند که در خوشبینانه‌ترین حالت، جستجو در گوگل فرآیند یادگیری را برای بچه‌ها سخت‌تر می‌کند.

آماندا بیکرستاف (Amanda Bickerstaff)، نایب رئیس موسسه AI for Education، در این رابطه توضیح داد: «آن‌ها از طریق بخش سرچ، هوش مصنوعی را به روش‌هایی تزریق می‌کنند که اصلاً با مراحل رشد و سن کودکان تناسبی ندارد.» این سازمان با موسسات آموزشی همکاری می‌کند تا برنامه‌های سواد هوش مصنوعی را توسعه داده و تأثیرات منفی احتمالی ابزارهای هوش مصنوعی مولد را بر یادگیری کودکان کاهش دهد.

«هیچ دلیلی وجود ندارد که یک کودک ۱۰ ساله، ۱۳ ساله یا حتی ۱۵ ساله، خلاصه‌های هوش مصنوعی گوگل (AI Overview) را ببیند یا به حالت AI Mode دسترسی داشته باشد. هنگام آموزش سواد هوش مصنوعی، اولین قدم این است که هدفمند و آگاهانه عمل کنیم. این حالت‌ها دقیقاً برعکس هستند. شما به یک موتور جستجو مراجعه نمی‌کنید تا پاسخ چت‌باتی دریافت کنید، شما می‌روید تا چیزهای واقعی را جستجو کنید.»
— آماندا بیکرستاف، سازمان AI for Education

بر اساس گزارش این موسسه، خلاصه‌های هوش مصنوعی و چت‌بات جدید گوگل در حالت جستجو، می‌توانند خطرات جدی برای سلامت روان و ایمنی کودکان به همراه داشته باشند.

گوگل گزینه‌ای برای غیرفعال کردن اختصاصی ویژگی‌های هوش مصنوعی ارائه نمی‌دهد، به طوری که خود موتور جستجو همچنان در دسترس باقی بماند. این بدان معناست که کودکان حتی در صورت وجود فیلترها و چارچوب‌های ایمنی در مدرسه، صرفاً با انجام تکالیف خود همچنان در معرض هوش مصنوعی مولد قرار می‌گیرند. گوگل توضیح می‌دهد که والدین می‌توانند بخش سرچ را به طور کامل خاموش کنند یا دامنه Google.com را برای حساب‌های کاربری فرزندان خود مسدود نمایند. مدیران مدارس نیز از نظر تئوری می‌توانند همین کار را برای حساب‌های Workspace for Education انجام دهند و دامنه گوگل سرچ را برای همه کاربران مسدود کنند؛ اما بیکرستاف این کار را قرار دادن معلمان در موقعیتی سخت و بن‌بست می‌داند: «چه خواهید گفت؟ اینکه بچه‌ها اصلاً حق ندارند در وب جستجو کنند؟»

شرکت گوگل در بیانیه‌ای به ماشابل پس از انتشار این گزارش اعلام کرد که تست‌های استرس موسسه Common Sense Media محدود و مبهم بوده و روشی کارآمد برای سنجش ایمنی و مفید بودن محصول نیست. این موسسه حساب‌های آموزشی (Workspace for Education) را آزمایش نکرده و فقط حساب‌های مصرف‌کننده معمولی را مورد سنجش قرار داده است. با این حال، به گفته تورنی، گوگل تایید کرده که تجربه جستجوی مجهز به هوش مصنوعی برای همه کاربران یکسان است.

آیا جستجوی هوش مصنوعی به یک کابوس حقوقی برای مدارس تبدیل می‌شود؟

به دلیل همین موضوع، منابعی که با ماشابل گفتگو کردند اظهار داشتند که شاید زمان قطع همکاری کامل با گوگل فرا رسیده باشد.

دیوید موناهان (David Monahan)، مدیر کمپین موسسه غیرانتفاعی Fairplay for Kids که در زمینه ایمنی کودکان فعالیت دارد، گفت: «بخش‌های AI Overview و AI Mode گوگل در حال تضعیف آموزش کودکان هستند، اطلاعات نادرست و خطرناکی را در اختیار آن‌ها قرار می‌دهند و زندگی آن‌ها را به خطر می‌اندازند. اگر گوگل حتی حاضر نیست ویژگی‌های هوش مصنوعی را برای دانش‌آموزان غیرفعال کند، مدارس باید استفاده از محصولات گوگل را به طور کامل متوقف کنند.»

آنیا مک‌سین (Anya Meksin)، نایب رئیس موسسه Schools Beyond Screens (ائتلافی ملی برای محدود کردن استفاده از فناوری در کلاس‌های درس)، معتقد است این گزارش می‌تواند یک زنگ خطر جدی برای مناطق آموزشی باشد. این ائتلاف اخیراً سیاست‌های جدیدی را برای استفاده از فناوری در مدارس منطقه آموزشی لس‌آنجلس (LAUSD) رهبری کرده است که از جمله آن‌ها می‌توان به ممنوعیت استفاده از صفحه نمایش در کلاس‌های مهدکودک و سال اول ابتدایی اشاره کرد.

هر دو موسسه Fairplay و Schools Beyond Screens خواستار تعلیق چند ساله استفاده از هوش مصنوعی مولد در مدارس هستند. مک‌سین توضیح داد که فعالان این حوزه قبلاً هم درباره جستجوی هوش مصنوعی و سایر محصولات یکپارچه گوگل، و نه فقط چت‌بات‌ها، هشدار داده بودند.

مک‌سین گفت: «ما از روشی که شرکت‌های بزرگ فناوری (Big Tech) آموزش عمومی را با محصولات خود به استعمار درآورده‌اند، شوک‌زده هستیم. ما باید با این موضوع به عنوان یک وضعیت اضطراری برخورد کنیم. آموزش، پایه و اساس دموکراسی ماست و آن‌ها آگاهانه فرزندان ما را از توانایی مقابله با این شرکت‌ها در آینده محروم می‌کنند.»

او توضیح داد که مناطق آموزشی، از جمله LAUSD، برای حل مشکلات ناشی از وابستگی به فناوری کلاسی با چالش‌های زیادی روبرو هستند و این موضوع اغلب با سیاست‌های نوپای خود آن‌ها در قبال هوش مصنوعی مغایرت دارد. به عنوان مثال، سیاست جدید LAUSD دانش‌آموزان زیر ۱۳ سال را از استفاده از هوش مصنوعی مولد در مدرسه منع می‌کند؛ اما از طریق محصولاتی مانند کروم‌بوک‌ها و گوگل سرچ در کامپیوترهای مدرسه، دانش‌آموزان همچنان می‌توانند با حالت AI Mode تعامل داشته باشند.

«ما باید با این موضوع به عنوان یک وضعیت اضطراری برخورد کنیم.»
— آنیا مک‌سین، موسسه Schools Beyond Screens

طی ۲۰ سال گذشته، مدارس میلیاردها دلار هزینه کرده‌اند تا کلاس‌های خود را به فناوری‌های آموزشی مجهز کنند. مک‌سین گفت که از سوی چندین منطقه آموزشی به او گفته شده که غیرفعال کردن کامل چنین خدمات گسترده‌ای، از جمله محصولات گوگل مانند کروم‌بوک‌ها، غیرممکن است.

مک‌سین در این باره گفت: «ما این موضع و بهانه‌ها را کاملاً خنده‌دار می‌دانیم. مناطق آموزشی در قبال قرار دادن کودکان در معرض محصولاتی که آسیب‌های شدید و پایداری به همراه دارند، مسئول و دارای مسئولیت حقوقی هستند.» او معتقد است که موسسات آموزشی ممکن است وارد همان چالش‌های حقوقی و دادگاه‌هایی شوند که شرکت‌های رسانه‌های اجتماعی و کمپانی‌های هوش مصنوعی اکنون با آن‌ها دست‌وپنجه نرم می‌کنند.

گوگل و شرکت مادر آن یعنی آلفابت، اخیراً با اولین شکایت خود در پرونده مرگ ناشی از سهل‌انگاری مواجه شدند؛ پرونده‌ای که در آن یک کاربر پس از گفتگو با جمینای اقدام به خودکشی کرد. یوتیوب نیز که متعلق به آلفابت است، پیش از این در زمینه طراحی پلتفرم به صورت غیرایمن و آسیب‌های سلامت روان به کاربران آسیب‌پذیر و کم‌سن‌وسال مقصر شناخته شده بود. تورنی معرفی ویژگی‌های هوش مصنوعی گوگل را به ورود یوتیوب به کلاس‌های درس تشبیه کرد که آن هم در گذشته مورد انتقاد شدید مدافعان حقوق کودکان قرار گرفته بود.

مک‌سین معتقد است مناطق آموزشی به جای اینکه خود را در معرض مسئولیت‌های حقوقی بزرگ‌تر قرار دهند، باید خواستار تغییر رفتار از سوی غول‌های فناوری باشند؛ تغییراتی که با کنترل‌های قوی‌تر روی ویژگی‌های هوش مصنوعی مولدِ ادغامات سخت‌افزاری در دستگاه‌های مدرسه شروع می‌شود. او تاکید کرد: «منطقه های آموزشی به عنوان بزرگ‌ترین خریداران این محصولات، قدرت چانه‌زنی زیادی دارند. اگر گوگل از قوانین و چارچوب‌های ایمنی مدارس پیروی نکند، مدارس باید استفاده از این محصولات را متوقف کرده و قراردادهای خود را فسخ کنند.»