انتخاب شگفت‌انگیز آنتروپیک؛ آیا اکسنچر ناظر ایمنی هوش مصنوعی کلود خواهد شد؟

برنامه‌های داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک (Anthropic)، برای استقرار ارزیابان مستقل ایمنی درون آزمایشگاه‌های هوش مصنوعی سرانجام در حال شکل‌گیری است. این شرکت توسعه‌دهنده هوش مصنوعی اعلام کرد که متخصصان غول مشاوره فناوری اکسنچر (Accenture) فعالیت خود را در داخل این مجموعه آغاز خواهند کرد تا مدل‌های هوش مصنوعی و عملکرد نیروهای آن را به شکلی موشکافانه مورد بررسی قرار دهند.

به گزارش بخش اخبار فناوری زوم تک به نقل از (TechCrunch)، شرکت آنتروپیک در یک پست وبلاگی اعلام کرد که شرکت فَکالتی (Faculty) — مجموعه‌ای که اکسنچر در ماه ژانویه برای تبدیل شدن به بازوی اختصاصی هوش مصنوعی خود آن را خریداری کرد — وظیفه «ارزیابی و انجام تست‌های تیم قرمز (Red-teaming) روی مدل‌ها، سنجش هم‌ترازی (Alignment) و آزمایش تدابیر ایمنی مدل‌های هوش مصنوعی» را بر عهده خواهد گرفت. همچنین هر دو شرکت انتظار دارند که طی پنج سال آینده حداقل ۱ میلیارد دلار در این پروژه مشترک سرمایه‌گذاری کنند.

واکنش بازارها و شگفتی کارشناسان از انتخاب غیرمنتظره اکسنچر

انتخاب اکسنچر شگفتی بسیاری از ناظران و تحلیل‌گران صنعت هوش مصنوعی و همچنین بازارهای مالی را به همراه داشت؛ تا جایی که ارزش سهام این غول مشاوره‌ای در معاملات پس از ساعت کاری بورس با جهشی ۸ درصدی مواجه شد. مباحث پیرامون حضور ارزیابان مستقر درون‌سازمانی که پس از یادداشت وبلاگی آمودی داغ شد، پیش‌تر عمدتاً بر سازمان‌های پژوهشی متمرکز بر ایمنی هوش مصنوعی نظیر METR، ردوود ریسرچ (Redwood Research) و آپولو ریسرچ (Apollo Research) متمرکز بود؛ رویکردی که به‌ویژه برای آنتروپیک صدق می‌کرد، چرا که این شرکت همواره توسعه ایمن و هم‌ترازی هوش مصنوعی را در کانون رسالت سازمانی خود تعریف کرده است.

آنتروپیک یادآور شد که اسامی ارزیابان بیشتری در هفته‌های آینده منتشر خواهد شد و این شرکت هم‌اکنون در حال گفتگو و رایزنی با موسسه METR و سایر سازمان‌های مردم‌نهاد و غیرانتفاعی است تا شرایط «اجرای آزمایشی بخش‌هایی از فرایند ارزیابی مستقر با استفاده از بودجه اختصاصی خود این سازمان‌ها» را فراهم کند.

دلایل انتخاب اکسنچر؛ تلفیق تجربه اجرایی در سطح کلان و استقلال سازمانی

هرچند شرکت Accenture سابقه‌ای در لبه پیشرفته‌ترین تحقیقات یادگیری عمیق (Deep Learning) ندارد، اما آنتروپیک سابقه طولانی و تجربه عملی این شرکت در پیاده‌سازی و استقرار راهکارهای هوش مصنوعی برای شرکت‌های بزرگ تجاری و آژانس‌های دولتی را یک مزیت رقابتی فوق‌العاده دانست. علاوه بر این، اکسنچر به‌عنوان یک کمپانی سهامی عام و باسابقه که پیدایش آن به دهه‌ها قبل از انقلاب هوش مصنوعی بازمی‌گردد، از جنبه ساختاری و عملکردی استقلال بیشتری نسبت به آنتروپیک و اکوسیستم پیچیده پیرامون این آزمایشگاه فناوری دارد.

چالش‌ های ایمنی مدل‌ های زبانی بزرگ و انتقادات به رویکرد خودنظارتی

آزمایشگاه آنتروپیک تاکید کرد که هنوز هیچ استاندارد تدوین‌شده و مشخصی برای سطح دسترسی یا ارتباطات ارزیابان ایمنی وجود ندارد و انتظار می‌رود رویکرد این شرکت به مرور زمان تکامل پیدا کند. در شرایطی که ارزیابی‌های بیرونی هم‌اکنون به بخش اصلی فرآیند انتشار مدل‌های زبانی بزرگ (LLM) تبدیل شده‌اند، وقایع ماه‌های اخیر حساسیت و ریسک موضوع را دوچندان کرده است؛ در مواردی مشخص شده که عامل‌های هوش مصنوعی (AI Agents) پیاده‌سازی‌شده توسط اوپن‌ای‌آی (OpenAI) و آنتروپیک موفق به نفوذ به وب‌سایت‌های خارجی شده بودند، بدون آنکه زنگ خطری در محیط داخلی این آزمایشگاه‌ها فعال شود.

در این میان، برخی از منتقدان و طرفداران رویکرد متعهدانه‌تر در توسعه هوش مصنوعی معتقدند که طرح خودنظارتی (Self-policing) ارائه‌شده از سوی داریو آمودی، در واقع راهکاری برای گریز از پاسخگویی حقوقی در برابر خطاها یا رفتارهای نامطلوب مدل‌های هوش مصنوعی است. با این حال، آنتروپیک اصرار دارد که «حضور این ارزیابان هرگز بار مسئولیت ما را کاهش نمی‌دهد، بلکه فرآیند راستی‌آزمایی و ارزیابی عینی را تسهیل می‌کند. در نهایت، مسئولیت تضمین ایمنی مدل‌های هوش مصنوعی کماکان مستقیماً بر دوش خود ما خواهد بود.»