کانادا پس از تیراندازی مرگبار مدرسه ای به سراغ قانون گذاری هوش مصنوعی رفت؛ کارشناسان نسبت به شکست طرح هشدار می دهند

تیراندازی مرگبار و آغاز فشارها برای قانون گذاری هوش مصنوعی

ماجرا از حادثه ای آغاز شد که در ماه فوریه رخ داد و طی آن ۹ نفر در یک تیراندازی در شهر تامبلر ریج کانادا جان خود را از دست دادند. پس از این حادثه، شرکت OpenAI اعلام کرد حساب کاربری مظنون ۱۸ ساله در ChatGPT پیش تر به دلیل محتوای خشونت آمیز به صورت داخلی علامت گذاری شده بود، اما این موضوع هرگز به پلیس گزارش نشده بود.

افشای این موضوع خشم عمومی را برانگیخت و فشار زیادی بر دولت کانادا وارد شد تا قوانین سخت گیرانه تری برای نظارت بر پلتفرم های هوش مصنوعی و شبکه های اجتماعی تدوین کند.

ایجاد نهاد جدید برای نظارت بر چت بات های هوش مصنوعی

بر اساس لایحه جدید، یک نهاد نظارتی دیجیتال در کانادا ایجاد خواهد شد که وظیفه آن نظارت بر عملکرد چت بات های هوش مصنوعی و شبکه های اجتماعی است. این نهاد می تواند شرکت های فناوری را ملزم کند اقداماتی برای کاهش خطر دسترسی کاربران به محتوای آسیب زا انجام دهند.

همچنین در صورتی که کاربران درباره موضوعاتی مانند خودکشی یا خودآزاری با چت بات ها گفتگو کنند، پلتفرم ها موظف خواهند بود سازوکارهای مداخله بحران و حمایت اضطراری را فعال کنند تا از بروز آسیب های احتمالی جلوگیری شود.

ممنوعیت شبکه های اجتماعی برای افراد زیر ۱۶ سال

یکی دیگر از بخش های مهم این لایحه، ممنوعیت عضویت افراد زیر ۱۶ سال در شبکه های اجتماعی است. کانادا با این اقدام قصد دارد مسیر مشابه استرالیا را دنبال کند که اخیرا محدودیت های گسترده ای برای دسترسی نوجوانان به شبکه های اجتماعی اعمال کرده است.

با این حال، این قانون شامل پیام رسان های خصوصی مانند واتساپ و سیگنال نمی شود. همچنین شرکت هایی که بتوانند استانداردهای تعیین شده توسط نهاد نظارتی جدید را رعایت کنند، امکان دریافت معافیت از برخی محدودیت ها را خواهند داشت.

کارشناسان: قانون به راحتی دور زده می شود

مهم ترین انتقاد مطرح شده علیه این طرح، امکان دور زدن آسان آن است. بسیاری از متخصصان معتقدند نوجوانان می توانند با استفاده از VPN یا ابزارهای مشابه، محدودیت های اعمال شده را بی اثر کنند.

ایوان لایت، استاد دانشگاه تورنتو و پژوهشگر حوزه فناوری و حریم خصوصی، اعلام کرده از سطح ابتدایی و ناقص این لایحه شگفت زده شده است. به گفته او، اگر این طرح نمایانگر نسخه نهایی قانون باشد، بعید است بتواند در عمل تاثیر قابل توجهی بر کاهش آسیب های آنلاین داشته باشد.

اجرای کامل قانون ممکن است بیش از دو سال طول بکشد

یکی دیگر از چالش های مطرح شده، زمان طولانی اجرای این طرح است. مقامات کانادایی اعلام کرده اند تصویب نهایی لایحه ممکن است حدود یک سال زمان ببرد و پس از آن نیز حدود ۱۸ ماه برای راه اندازی کامل نهاد نظارتی جدید مورد نیاز خواهد بود.

منتقدان معتقدند در دنیای فناوری که با سرعت بسیار بالایی در حال تحول است، چنین بازه زمانی طولانی می تواند اثربخشی قانون را به شدت کاهش دهد.

نگرانی درباره مهاجرت کاربران به پلتفرم های ناشناخته

فلوریان مارتین باریتو، مدیر مرکز حقوق، فناوری و جامعه دانشگاه اتاوا، هشدار داده است که اعمال محدودیت بر پلتفرم های بزرگ ممکن است نتیجه معکوس داشته باشد. به گفته او، نوجوانان در صورت مواجه شدن با محدودیت ها احتمالا به سمت پلتفرم های کوچک تر و کمتر شناخته شده مهاجرت خواهند کرد؛ پلتفرم هایی که معمولا نظارت و استانداردهای امنیتی ضعیف تری دارند.

او تاکید کرده است که دولت می تواند شرکت های بزرگ را تحت فشار قرار دهد، اما کنترل هزاران وب سایت کوچک و سرویس های خارجی عملا غیرممکن خواهد بود.

شبکه های اجتماعی با محدودیت های جدید مخالفت کردند

شرکت های فناوری نیز واکنش های متفاوتی به این طرح نشان داده اند. متا اعلام کرده ممنوعیت کامل شبکه های اجتماعی برای نوجوانان رویکرد مناسبی نیست و می تواند نتایج معکوسی به همراه داشته باشد. گوگل نیز تاکید کرده آماده همکاری با دولت کانادا برای ارتقای استانداردهای ایمنی آنلاین است.

تیک تاک نیز اعلام کرده در حال حاضر بیش از ۵۰ ابزار مختلف برای کنترل حریم خصوصی و امنیت کاربران نوجوان در اختیار خانواده ها قرار داده است و والدین می توانند از قابلیت Family Pairing برای مدیریت تجربه فرزندان خود استفاده کنند.

موج جهانی قانون گذاری علیه هوش مصنوعی و شبکه های اجتماعی

کانادا تنها کشوری نیست که به دنبال وضع قوانین سخت گیرانه تر در حوزه هوش مصنوعی و شبکه های اجتماعی است. کشورهای مختلف اروپایی، برزیل و برخی ایالت های آمریکا نیز در حال تدوین مقررات جدیدی برای احراز هویت سنی کاربران و محدود کردن دسترسی کودکان به پلتفرم های آنلاین هستند.

با این حال، همچنان اختلاف نظرهای زیادی درباره بهترین روش حفاظت از کودکان در فضای دیجیتال وجود دارد. برخی کارشناسان معتقدند قوانین سخت گیرانه می توانند از آسیب های آنلاین جلوگیری کنند، در حالی که گروهی دیگر هشدار می دهند محدودیت های بیش از حد ممکن است کاربران نوجوان را به سمت محیط های خطرناک تر سوق دهد.

آیا کانادا می تواند الگویی برای سایر کشورها باشد؟

لایحه جدید کانادا یکی از گسترده ترین تلاش های دولتی برای کنترل همزمان هوش مصنوعی و شبکه های اجتماعی به شمار می رود. با این حال، موفقیت یا شکست آن تا حد زیادی به نحوه اجرا، توانایی مقابله با دور زدن محدودیت ها و همکاری شرکت های فناوری بستگی خواهد داشت.

در شرایطی که هوش مصنوعی هر روز نقش پررنگ تری در زندگی کاربران پیدا می کند، تصمیمات کانادا می تواند به الگویی مهم برای سایر کشورها تبدیل شود؛ هرچند بسیاری از کارشناسان معتقدند نسخه فعلی این قانون هنوز فاصله زیادی تا رسیدن به یک چارچوب موثر و عملی دارد.