پایان قرنطینه غول‌ های هوش مصنوعی؛ دولت ترامپ مجوز عرضه جهانی مدل‌ های پیشرفته Anthropic را صادر کرد

ایالات متحده محدودیت‌های صادراتی روی جدیدترین و پیشرفته‌ترین مدل‌های هوش مصنوعی شرکت آنتروپیک (Anthropic) یعنی Fable 5 و Mythos 5 را لغو کرد. این اقدام درست سه هفته پس از آن صورت می‌گیرد که دولت ترامپ این مدل‌ها را به عنوان خطراتی برای امنیت ملی طبقه‌بندی و دسترسی به آن‌ها را مسدود کرده بود.

به گزارش بخش اخبار فناوری زوم تک به نقل از  Ars Technica، شرکت آنتروپیک در یک پست وبلاگی تایید کرد که از امروز مدل Fable 5 به صورت جهانی در دسترس خواهد بود و دسترسی سازمان‌های آمریکایی به مدل Mythos 5 نیز از تاریخ ۲۶ ژوئن برقرار شده است. آنتروپیک اعلام کرد که در حال حاضر با دولت همکاری می‌کند تا دسترسی به مدل Mythos را برای «مجموعه گسترده‌تری از شرکای داخلی و بین‌المللی در برنامه گلس‌وینگ (Glasswing)» گسترش دهد. این برنامه به محققان امنیت سایبری در شرکت‌های قابل اعتماد اجازه می‌دهد تا برای اهداف دفاعی به Mythos دسترسی داشته باشند.

هاوارد لوتنیک (Howard Lutnick)، وزیر بازرگانی آمریکا، در نامه‌ای به آنتروپیک که توسط رویترز و نیویورک تایمز مشاهده شده، اعلام کرد که این شرکت «دیگر نیازی به مجوز برای صادرات یا انتقال داخلی مدل‌های هوش مصنوعی Claude Mythos و Claude Fable خود نخواهد داشت». در این نامه تایید شده است که آنتروپیک «گام‌هایی را در هماهنگی نزدیک با دولت ایالات متحده برای رفع خطرات ایجاد شده توسط این مدل‌ها برداشته است».

تغییر استراتژی آنتروپیک و نظارت ۲۴ ساعته بر تهدیدات جیلبریک

لوتنیک اشاره کرد که آنتروپیک برای جلوگیری از تاخیر طولانی‌تر در عرضه مدل‌های خود، موافقت کرده است که همکاری خود را با دولت گسترش دهد. این شرکت اعلام کرد که برنامه‌ای را برای همکاری با هکرها جهت تست نفوذ و ارزیابی امنیتی (Red-Teaming) مدل‌های خود راه‌اندازی کرده است و اکنون یک تیم داخلی اختصاصی به صورت ۲۴ ساعته و هفت روز هفته بر گزارش‌های مربوط به تهدیدات نوظهور جیلبریک (Jailbreak) نظارت می‌کند.

لوتنیک در این نامه به آنتروپیک یادآوری کرد که ایالات متحده «حق باز ارزیابی تصمیمات» و اعمال مجدد محدودیت‌های صادراتی را در هر زمان برای خود محفوظ می‌دارد. اما در حال حاضر، لوتنیک به همراه سوزی وایلز (Susie Wiles)، رئیس کارکنان کاخ سفید، در شبکه اجتماعی X مستقر شدن مجدد Fable 5 را جشن گرفتند.

لوتنیک گفت: «طی دو هفته گذشته، ما از نزدیک با آنتروپیک برای تحلیل و تایید Fable 5 همکاری کردیم تا از همسویی در سراسر دولت ایالات متحده مطمئن شویم و رهبری آمریکا در حوزه هوش مصنوعی را تقویت کنیم.»

وایلز مستقیماً نامی از آنتروپیک نبرد اما این اتفاق را یک پیروزی برای ترامپ دانست و نوشت: «دولت و بخش خصوصی به گونه‌ای با یکدیگر همکاری کرده‌اند که پیش از این هرگز ندیده بودیم و این پایه‌گذاری برای استراتژی اول آمریکا (America First) بی‌سابقه است. اولویت مشترک ما همچنان باقی است: استقرار بهترین فناوری در سریع‌ترین زمان و با امن‌ترین روش ممکن.»

بهای سنگین امنیت؛ محدود شدن کدهای روزمره در نسخه Fable 5

در تاریخ ۱۲ ژوئن، وزارت بازرگانی به آنتروپیک دستور داد تا دسترسی به پیشرفته‌ترین مدل‌های خود را برای هر فردی در خارج از ایالات متحده قطع کند. این دستور ناشی از این ترس بود که چین، روسیه یا سایر کشورهای مورد نظر ممکن است از این مدل‌ها برای حمله به زیرساخت‌های ایالات متحده مانند شبکه برق یا سیستم بانکی سوءاستفاده کنند. در پاسخ، آنتروپیک تمام دسترسی‌ها را قطع کرد، زیرا راهی برای مسدود کردن کاربران بر اساس کشور نداشت.

در وبلاگ آنتروپیک آمده است که به طور خاص، مدل Mythos به عنوان گزینه‌ای «به طرز منحصربه‌فردی جذاب برای بازیگران مخربی که مایل به سوءاستفاده از آن در حملات سایبری هستند» دیده می‌شد. به گفته آنتروپیک، این مدل «می‌تواند برای یافتن و سوءاستفاده از آسیب‌پذیری‌های نرم‌افزاری موثرتر از هر مدل دیگری – و حتی ماهرترین کارشناسان امنیت انسانی – استفاده شود» و این «توانایی‌های فوق‌العاده در امنیت سایبری» می‌تواند علیه ایالات متحده به کار گرفته شود.

آنتروپیک گفت که مدل Fable 5 از همان مدل پایه زیرین استفاده می‌کند، اما برعکس Mythos 5، «هیچ‌گونه قابلیت تهاجمی منحصربه‌فردی ارائه نمی‌دهد». مدل Fable 5 که برای عموم مردم طراحی شده است، از قبل دارای قوی‌ترین حفاظت‌هایی بود که آنتروپیک تا به حال روی یک مدل اعمال کرده بود و این شرکت اعلام کرد که این لایه‌های حفاظتی اکنون پیش از استقرار مجدد، حتی قوی‌تر هم شده‌اند.

پس از هفته‌ها آزمایش، Fable 5 دیگر در برابر روش دورزدنی که توسط محققان آمازون کشف شده بود (روشی که چندین آسیب‌پذیری نرم‌افزاری را شناسایی کرده و جرقه محدودیت‌های صادراتی را زده بود) آسیب‌پذیر نیست. نگران‌کننده‌ترین بخش به گفته آنتروپیک، موردی بود که در آن مدل به گونه‌ای دستکاری شده بود تا کدی تولید کند که نشان می‌داد چگونه می‌توان از یک آسیب‌پذیری سوءاستفاده کرد.

به گفته آنتروپیک، آزمایش‌ها تایید کردند که مدل‌های رقیب و کم‌ظرفیت‌تر موجود در بازار مانند GPT-5.5 و Kimi K2.7 نیز «می‌توانند همان آسیب‌پذیری‌هایی را که Fable 5 در گزارش شناسایی کرده بود، پیدا کنند». آنتروپیک گفت این موضوع تایید می‌کند که «تکنیک گزارش‌شده هیچ قابلیت سایبری منحصربه‌فردی در سطح Mythos را آشکار نکرده است» و «فقط شامل کارهای دفاعی معمول در امنیت سایبری بوده است».

آنتروپیک نوشت: «با این حال، ما به سرعت برای رفع بای‌پاس گزارش‌شده اقدام کردیم.» به گفته این شرکت، این روش جیلبریک در حال حاضر در بیش از ۹۹ درصد موارد مسدود شده است. با این حال، این کمپانی اعتراف کرد که سخت‌تر کردن حفاظت‌های امنیتی با یک هزینه جانبی همراه بوده است که ممکن است باعث شود برخی از درخواست‌های بی‌خطر «در طول کارهای روزمره کدنویسی و عیب‌یابی (Debugging)» مسدود شوند.

آنتروپیک گفت: «ما با همکاری نزدیک با دولت، یک طبقه‌بند امنیتی بهبودیافته را آموزش دادیم که رفتار توصیف‌شده در گزارش را هدف قرار داده و مسدود می‌کند. اگر درخواستی به Fable 5 مسدود شود، به کاربران اطلاع داده خواهد شد و به جای آن، درخواست به مدل Opus 4.8 ارسال می‌شود.»

البته آنتروپیک اشاره کرد که طبقه‌بند جدید این شرکت که به جلوگیری از حملات خطرناک منحصربه‌فرد به مدل‌ها کمک می‌کند، ممکن است دچار اشتباه شود. این شرکت مدت‌هاست ادعا می‌کند که ساخت مدل هک‌ناپذیر که کاملاً در برابر جیلبریک مصون باشد احتمالاً غیرممکن است، اما با افزایش تست‌های نفوذ، آنتروپیک امیدوار است مطمئن شود که آن‌ها و شرکای امنیتی‌شان اولین کسانی خواهند بود که جیلبریک‌های بزرگ را پیدا کرده و قبل از اینکه بازیگران مخرب از آن‌ها برای آسیب رساندن استفاده کنند، آن‌ها را برطرف می‌سازند.

به گفته آنتروپیک، حمله‌ای که آمازون پرچم‌گذاری کرده بود، در حال حاضر تنها در بخش بسیار کوچکی از موارد کار می‌کند؛ جایی که مدل ممکن است اطلاعاتی ارائه دهد که برای کمک به یک مهاجم سایبری به اندازه کافی دقیق نیست.

با اتخاذ رویکرد محتاطانه، آنتروپیک گفت که اکثریت قریب به اتفاق جیلبریک‌ها موفق به باز کردن رفتارهای خطرناک نخواهند شد و تولید آن‌ها بسیار پرهزینه و نیازمند تلاش زیاد خواهد بود. این شرکت گفت: «حتی اگر یک جیلبریک موفقیت‌آمیز باشد، لایه‌های دفاعی اضافی ما – که مستلزم مسدود کردن برخی درخواست‌های بی‌خطر است – کاهش خطر بیشتری را فراهم می‌کند.»

سیستم جدید آنتروپیک برای امتیازدهی و رتبه‌بندی حملات جیلبریک

به نظر می‌رسد پست وبلاگی آنتروپیک، تهدیدی را که آمازون شناسایی کرده بود کم‌اهمیت جلوه می‌دهد و آن را کم‌خطرتر از چیزی می‌داند که بزرگ‌ترین تهدید برای دولت‌ها به شمار می‌آید: جیلبریک‌های همگانی که می‌توانند طیف وسیعی از آسیب‌پذیری‌ها را باز کرده و حملات غیرقابل پیش‌بینی را امکان‌پذیر کنند.

برای ساده‌سازی مشارکت بخش خصوصی و دولتی و تضمین سریع‌ترین پاسخ به بزرگ‌ترین ریسک‌ها، آنتروپیک اعلام کرد که هدف صنعت هوش مصنوعی باید دسته‌بندی ریسک‌ها باشد تا از مداخله مناسب هم در داخل شرکت و هم از سوی دولت اطمینان حاصل شود.

در حال حاضر، آنتروپیک با آمازون، مایکروسافت، گوگل و سایر شرکای برنامه Glasswing برای «تدوین یک چارچوب توافقی جهت ارزیابی شدت جیلبریک‌های هوش مصنوعی و نحوه پاسخ توسعه‌دهندگان به آن‌ها» همکاری می‌کند.

آنتروپیک گفت که سایر شرکای تجاری نیز می‌توانند به این گفتگوها بپیوندند، هرچند این فرآیند ناقص است و بر ایجاد چهار معیار برای امتیازدهی به یک جیلبریک تمرکز دارد. این معیارها شامل ارزیابی میزان قابلیتی است که جیلبریک فراهم می‌کند، تعداد کارهای تهاجمی که فعال می‌سازد، چقدر برای یک انسان آسان است که یک جیلبریک را به سلاح تبدیل کند (جیلبریک‌های تک‌درخواستی به عنوان پرخطرترین‌ها علامت‌گذاری می‌شوند) و اینکه آیا کشف جیلبریک نیاز به دانش تخصصی دارد یا خیر.

در این وبلاگ آمده است که آنتروپیک با استفاده از این چارچوب، تیمی را تشکیل داده است که کانال‌های ارسال جیلبریک را به صورت ۲۴ ساعته نظارت خواهد کرد. این شرکت هوش مصنوعی همچنین تایید کرد که در حال راه‌اندازی یک برنامه جدید HackerOne است که از طریق آن محققان امنیتی می‌توانند جیلبریک‌های سایبری احتمالی را که در Fable 5 کشف کرده‌اند، ارسال کنند تا بررسی امنیت در صدر اولویت‌ها باقی بماند.

تعمیق روابط آنتروپیک با دولت آمریکا و تشبیه به ارباب حلقه‌ها

برای آنتروپیک، یکی از نتایج آزمایش‌های دولتی، بهبود رابطه با دولت به نظر می‌رسد؛ آن هم پس از اینکه این شرکت از ایالات متحده به دلیل تعیین ریسک امنیت ملی که این فرم هوش مصنوعی را در لیست سیاه قرار داده بود، شکایت کرد. آنتروپیک ادعا کرده بود این اقدام تلافی‌جویانه ناشی از امتناع شرکت از اعطای دسترسی به مدل‌ها برای اهداف ساخت سلاح‌های خودمختار یا انجام نظارت جمعی داخلی بوده است.

آنتروپیک در وبلاگ خود گفت که در حال گسترش تعهدات خود برای همکاری با شرکای دولتی در زمینه آزمایش و ارزیابی قبل از استقرار است. آنتروپیک گفت این تلاش‌ها شامل اعطای دسترسی زودهنگام به دولت برای مدل‌های پیشرو، به اشتراک‌گذاری سریع اطلاعات در مورد روش‌های جدید جیلبریک و اختصاص منابع به تحقیقات مشترک است که به پیشرفت ارزیابی هوش مصنوعی کمک می‌کند.

آنتروپیک این همکاری را به عنوان «آغاز یک الگو برای هماهنگی جهانی موثر در مورد خطرات و مزایای هوش مصنوعی» توصیف کرد و در عین حال از کنگره خواست تا قوانینی را تصویب کند تا مطمئن شود همه توسعه‌دهندگان مدل‌های پیشرو در یک مسیر حرکت می‌کنند.

اما روند حرکت دولت برای آنتروپیک بسیار کند است. داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، اوایل این ماه پیشنهاد قانون‌گذاری خود را با ارجاع به داستان ارباب حلقه‌ها مطرح کرد تا منظور خود را بهتر بیان کند:

«در یکی از داستان‌های جانبی ارباب حلقه‌ها، دو هوبیت تلاش می‌کنند تا درخت‌ریش (Treebeard) – یک درخت هوشمند، دانا اما بسیار کند و سنگین حرکت – را برای دفاع از جنگلش در برابر ارتشی که در حال قطع کردن درختان است، بیدار کنند. مشکل این است که درخت‌ریش با سرعتی بسیار متفاوت از هوبیت‌ها عمل می‌کند. برای او یک روز کامل طول می‌کشد تا صرفاً به درخت دیگری سلام کند، بنابراین وادار کردن او و هم‌نوعانش به اقدام سریع تقریباً غیرممکن است. تلاقی هوش مصنوعی و نهادهای سیاسی ما کمی شبیه به داستان هوبیت‌ها و درخت‌ریش است.»

در ابتدا، ترامپ قصد داشت برای تحریک نوآوری، از رگولاتوری و قوانین سخت‌گیرانه در هوش مصنوعی دوری کند. با این حال، عرضه مدل Mythos توسط آنتروپیک در ماه مه، ترامپ را ترساند تا درخواست آزمایش ایمنی داوطلبانه مدل‌های پیشرو را مطرح کند. دو فرد آشنا به این گفتگوها به نیویورک تایمز گفتند که از آن زمان، ترامپ هنوز در حال کار بر روی چارچوبی است که نشان دهد شرکت‌ها چگونه باید مدل‌های جدید هوش مصنوعی را به طور رسمی برای بررسی ارسال کنند و چه استانداردهایی برای آن‌ها در نظر گرفته می‌شود.

آمودی در پست خود از کنگره خواست تا به سرعت برای بازنگری در مقررات ایمنی دنیایی اقدام کند که در آن «هوش مصنوعی می‌تواند از یک اسباب‌بازی سرگرم‌کننده به یک کشور کامل از نبوغ در یک دیتاسنتر تبدیل شود»، در غیر این صورت خطر تحمل عواقب استراتژیک ملی وجود دارد.

با این حال، آیزاک هریس (Isaac Harris)، مدیر اجرایی موسسه امنیت پیشرو (یک سازمان غیرانتفاعی متمرکز بر هوش مصنوعی و امنیت ملی)، به رویترز گفت که بزرگ‌ترین علامت سوال پس از تعمیق شراکت آنتروپیک با دولت این است که قابلیت‌های به همان اندازه خطرناک که از سوی چین و با گاردریل‌های کمتری می‌آیند، چگونه توسط دولت در بازار ایالات متحده مدیریت خواهند شد.

شایان ذکر است که آنتروپیک اخیراً شرکت هوش مصنوعی چینی علی‌بابا (Alibaba) را به راه‌اندازی بزرگ‌ترین حمله شبیه‌سازی به مدل کلود (Claude) متهم کرده است. در پاسخ، آنتروپیک از کنگره خواست قوانینی را تصویب کند که شرکت‌های چینی را که در حال سرقت کار شرکت‌های آمریکایی هستند، مجازات کند. در غیر این صورت، بازیگران مخربی که نمی‌توانند به مدل‌های آنتروپیک دسترسی پیدا کنند، ممکن است به سراغ مدل‌های چینی با لایه‌های حفاظتی کمتر و قابلیت‌های نزدیک‌تر بروند تا حملاتی را علیه ایالات متحده آغاز کنند.