کشف «روز صفر بیولوژیکی» توسط مایکروسافت: آیا هوش مصنوعی می‌ تواند سلاح‌ های بیولوژیکی غیرقابل ردیابی بسازد؟

روز پنجشنبه، تیمی از محققان به رهبری مایکروسافت اعلام کردند که آنچه را که آن را یک روز صفر بیولوژیکی (biological zero-day) می‌نامند، کشف و احتمالاً اصلاح کرده‌اند—یک حفره امنیتی ناشناخته در سیستمی که ما را از تهدیدات بیولوژیکی محافظت می‌کند. سیستم در معرض خطر، سفارش‌ های توالی DNA را برای تشخیص اینکه آیا کسی در حال سفارش DNA کدکننده یک توکسین (سم) یا ویروس خطرناک است، غربالگری می‌کند. اما محققان استدلال می‌کنند که این سیستم به طور فزاینده‌ای در برابر نادیده گرفتن یک تهدید جدید آسیب‌ پذیر شده است: توکسین‌ های طراحی‌شده توسط هوش مصنوعی (AI).

به گزارش بخش اخبار علمی زوم تک، این تهدید چقدر بزرگ است؟ برای درک آن، باید کمی بیشتر در مورد برنامه‌های نظارت زیستی موجود و قابلیت‌ های پروتئین‌ های طراحی‌شده توسط هوش مصنوعی بدانید.

سیستم‌ های غربالگری DNA چگونه کار می‌کنند؟

تهدیدات بیولوژیکی به اشکال مختلفی وجود دارند. برخی از آنها پاتوژن‌ها، مانند ویروس‌ها و باکتری‌ها هستند. برخی دیگر توکسین‌های مبتنی بر پروتئین هستند، مانند رایسین که در سال ۲۰۰۳ به کاخ سفید ارسال شد. برخی دیگر توکسین‌های شیمیایی هستند که از طریق واکنش‌های آنزیمی تولید می‌شوند، مانند مولکول‌های مرتبط با «کشند سرخ». همه آن‌ها از طریق یک فرآیند بیولوژیکی بنیادین یکسان آغاز می‌شوند: DNA به RNA رونویسی می‌شود، که سپس برای ساخت پروتئین‌ها استفاده می‌شود.

چندین دهه است که شروع این فرآیند به سادگی سفارش آنلاین توالی DNA مورد نیاز از هر یک از شرکت‌های متعدد بوده است، که توالی درخواستی را سنتز کرده و ارسال می‌کنند. با تشخیص تهدید بالقوه در اینجا، دولت‌ها و صنعت با یکدیگر همکاری کرده‌اند تا یک مرحله غربالگری به هر سفارش اضافه کنند: توالی DNA برای توانایی آن در کد کردن بخش‌هایی از پروتئین‌ها یا ویروس‌هایی که تهدید محسوب می‌شوند، اسکن می‌شود. هرگونه نتیجه مثبت سپس برای مداخله انسانی جهت ارزیابی اینکه آیا آن‌ها یا افرادی که آن‌ها را سفارش می‌دهند واقعاً خطری را نمایندگی می‌کنند، علامت‌گذاری می‌شود.

هم لیست پروتئین‌ها و هم پیچیدگی اسکن در طول سال‌ها در پاسخ به پیشرفت تحقیقات به طور مداوم به‌روز شده است. به عنوان مثال، غربالگری اولیه بر اساس شباهت به توالی‌های DNA هدف انجام می‌شد. اما توالی‌های DNA زیادی وجود دارند که می‌توانند یک پروتئین یکسان را کد کنند، بنابراین الگوریتم‌های غربالگری بر این اساس تنظیم شده‌اند و تمام انواع DNA را که تهدید یکسانی را ایجاد می‌کنند، تشخیص می‌دهند.

آسیب‌ پذیری جدید: وقتی هوش مصنوعی قوانین را تغییر می‌دهد

کار جدید را می‌توان به عنوان توسعه‌ای از آن تهدید در نظر گرفت. نه تنها چندین توالی DNA می‌توانند یک پروتئین یکسان را کد کنند؛ بلکه چندین پروتئین می‌توانند عملکرد یکسانی را انجام دهند. به عنوان مثال، برای تشکیل یک توکسین، معمولاً لازم است که پروتئین ساختار سه‌بعدی صحیحی به خود بگیرد، که تعدادی از اسیدهای آمینه حیاتی درون پروتئین را به نزدیکی یکدیگر می‌آورد. با این حال، خارج از آن اسیدهای آمینه حیاتی، اغلب انعطاف‌پذیری زیادی می‌تواند وجود داشته باشد. برخی از اسیدهای آمینه ممکن است اصلاً اهمیتی نداشته باشند؛ مکان‌های دیگر در پروتئین می‌توانند با هر اسید آمینه با بار مثبت، یا هر اسید آمینه آب‌گریز کار کنند.

در گذشته، انجام آزمایش‌هایی که به شما بگوید یک رشته از اسیدهای آمینه چه نوع تغییراتی را می‌تواند تحمل کند در حالی که عملکرد خود را حفظ می‌کند، می‌توانست بسیار دشوار (به معنای وقت‌گیر و گران) باشد. اما تیم پشت این تحلیل جدید تشخیص داد که ابزارهای طراحی پروتئین با هوش مصنوعی اکنون بسیار پیچیده شده‌اند و می‌توانند پیش‌بینی کنند که چه زمانی توالی‌هایی با خویشاوندی دور می‌توانند به یک شکل یکسان تا بخورند و واکنش‌های یکسانی را کاتالیز کنند. این فرآیند هنوز مستعد خطا است و شما اغلب باید ده‌ها یا بیشتر پروتئین پیشنهادی را آزمایش کنید تا یک نمونه کارآمد پیدا کنید، اما موفقیت‌های چشمگیری را به همراه داشته است.

بنابراین، تیم فرضیه‌ای را برای آزمایش توسعه داد: هوش مصنوعی می‌تواند یک توکسین موجود را گرفته و پروتئینی با همان عملکرد طراحی کند که به اندازه‌ای از نظر خویشاوندی دور باشد که برنامه‌های غربالگری سفارش‌های DNA کدکننده آن را تشخیص ندهند.

واکنش به سبک امنیت سایبری: افشای مسئولانه یک حفره بیولوژیکی

تیم با یک آزمایش اساسی شروع کرد: استفاده از ابزارهای هوش مصنوعی برای طراحی انواع مختلف توکسین رایسین، و سپس آزمایش آن‌ها در برابر نرم‌افزاری که برای غربالگری سفارش‌های DNA استفاده می‌شود. نتایج آزمایش نشان داد که خطر عبور انواع پروتئین خطرناک از نرم‌افزار غربالگری موجود وجود دارد، بنابراین با این وضعیت مانند معادل یک آسیب‌پذیری روز صفر برخورد شد.

نویسندگان گزارش می‌دهند: «با الهام از فرآیندهای تثبیت‌شده امنیت سایبری برای رسیدگی به چنین شرایطی، ما با نهادهای مربوطه در مورد آسیب‌پذیری بالقوه تماس گرفتیم، از جمله کنسرسیوم بین‌المللی سنتز ژن و همکاران مورد اعتماد در جامعه طراحی پروتئین و همچنین مسئولان امنیت زیستی در دفتر سیاست علم و فناوری ایالات متحده، مؤسسه ملی استاندارد و فناوری ایالات متحده، وزارت امنیت داخلی ایالات متحده، و دفتر آمادگی و واکنش به همه‌گیری ایالات متحده. خارج از آن نهادها، جزئیات تا زمانی که مطالعه جامع‌تری در جهت یافتن راه‌حل‌های بالقوه و توسعه و استقرار ‘وصله‌ها’ انجام شود، محرمانه نگه داشته شد.»

جزئیات آن آزمایش اولیه امروز به عنوان بخشی از یک تحلیل بسیار بزرگتر که این رویکرد را به طیف وسیعی از پروتئین‌های سمی گسترش می‌دهد، در دسترس قرار می‌گیرد. با شروع از ۷۲ توکسین، محققان از سه بسته هوش مصنوعی منبع باز برای تولید در مجموع حدود ۷۵,۰۰۰ نوع پروتئین بالقوه استفاده کردند.

نتایج آزمایش بزرگ: آیا نرم‌ افزارهای امنیتی شکست خوردند؟

و اینجاست که مسائل کمی پیچیده می‌شود. بسیاری از انواع پروتئین طراحی‌شده توسط هوش مصنوعی در نهایت غیرعملکردی خواهند بود، یا به طور نامحسوس یا فاجعه‌بار در تا خوردن به پیکربندی صحیح برای ایجاد یک توکسین فعال شکست می‌خورند. تنها راه برای دانستن اینکه کدام‌ها کار می‌کنند، ساخت پروتئین‌ها و آزمایش بیولوژیکی آن‌هاست؛ اکثر تلاش‌های طراحی پروتئین با هوش مصنوعی، پروتئین‌های واقعی را از ده‌ها تا صدها طرح بالقوه امیدوارکننده‌تر می‌سازند تا تعداد انگشت‌شماری از آن‌ها که فعال هستند را پیدا کنند. اما انجام این کار برای ۷۵,۰۰۰ طرح کاملاً غیرواقعی است.

در عوض، محققان از دو ابزار مبتنی بر نرم‌افزار برای ارزیابی هر یک از ۷۵,۰۰۰ طرح استفاده کردند. یکی از این‌ها بر شباهت بین ساختار فیزیکی کلی پیش‌بینی‌شده پروتئین‌ها تمرکز دارد، و دیگری به تفاوت‌های پیش‌بینی‌شده بین موقعیت‌های اسیدهای آمینه منفرد نگاه می‌کند. در هر صورت، آن‌ها تخمین تقریبی از این هستند که پروتئین‌های تشکیل‌شده توسط دو رشته از اسیدهای آمینه چقدر باید شبیه باشند. اما آن‌ها قطعاً نشانگر روشنی از این نیستند که آیا آن دو پروتئین به یک اندازه عملکردی خواهند بود.

در هر صورت، توالی‌های DNA کدکننده تمام ۷۵,۰۰۰ طرح به نرم‌افزاری که سفارش‌های DNA را برای تهدیدات بالقوه غربالگری می‌کند، وارد شد. یک چیز که بسیار واضح بود این بود که تفاوت‌های زیادی در توانایی چهار برنامه غربالگری برای علامت‌گذاری این طرح‌های متغیر به عنوان تهدیدآمیز وجود داشت. دو تا از آن‌ها به نظر می‌رسید کار بسیار خوبی انجام می‌دهند، یکی عملکرد متوسطی داشت، و دیگری اکثر آن‌ها را از خود عبور داد. سه بسته نرم‌افزاری در پاسخ به این عملکرد به‌روز شدند، که به طور قابل توجهی توانایی آن‌ها در تشخیص انواع مختلف را بهبود بخشید.

تحلیل یافته‌ ها: تهدید چقدر جدی است؟

همچنین یک روند واضح در هر چهار بسته غربالگری وجود داشت: هرچه نوع متغیر از نظر ساختاری به نسخه اصلی نزدیک‌تر بود، احتمال اینکه بسته (هم قبل و هم بعد از وصله‌ها) بتواند آن را به عنوان یک تهدید علامت‌گذاری کند، بیشتر بود. در همه موارد، همچنین خوشه‌ای از طرح‌های متغیر وجود داشت که بعید بود به ساختار مشابهی تا بخورند، و این‌ها عموماً به عنوان تهدید علامت‌گذاری نمی‌شدند.

این به چه معناست؟ باز هم، مهم است تأکید شود که این ارزیابی بر اساس ساختارهای پیش‌بینی‌شده است؛ «بعید» بودن تا خوردن به ساختار مشابه توکسین اصلی به این معنا نیست که این پروتئین‌ها به عنوان توکسین غیرفعال خواهند بود. پروتئین‌های عملکردی احتمالاً در این گروه بسیار نادر خواهند بود، اما ممکن است تعداد انگشت‌شماری در آن وجود داشته باشد. آن تعداد انگشت‌ شمار همچنین احتمالاً به قدری نادر است که شما باید تعداد بسیار زیادی از طرح‌ها را سفارش داده و آزمایش کنید تا یکی را که کار می‌کند پیدا کنید، که این را به یک مسیر تهدید غیرعملی تبدیل می‌کند.

در عین حال، تعداد انگشت‌شماری پروتئین نیز وجود دارد که از نظر ساختاری بسیار شبیه به توکسین هستند و توسط نرم‌افزار علامت‌گذاری نمی‌شوند. برای سه نسخه وصله‌شده نرم‌افزار، آن‌هایی که از غربالگری عبور می‌کنند حدود ۱ تا ۳ درصد از کل در دسته «بسیار شبیه» را تشکیل می‌دهند. این عالی نیست، اما احتمالاً به اندازه‌ای خوب است که هر گروهی که سعی کند با این روش یک توکسین سفارش دهد، توجه را به خود جلب خواهد کرد زیرا برای داشتن شانس خوبی برای یافتن یکی که از فیلتر عبور کرده، باید بیش از ۵۰ مورد سفارش دهند، که این خود باعث ایجاد انواع هشدارهای امنیتی می‌شود.

نگاهی به آینده: آیا برای تهدیدهای نوظهور آماده‌ایم؟

یک نتیجه قابل توجه دیگر این است که طرح‌هایی که علامت‌گذاری نشدند، بیشتر انواع فقط تعداد انگشت‌شماری از پروتئین‌های توکسین بودند. بنابراین این کمتر یک مشکل عمومی با نرم‌افزار غربالگری است و ممکن است بیشتر مجموعه‌ای کوچک از مشکلات متمرکز باشد. قابل ذکر است، یکی از پروتئین‌هایی که بسیاری از انواع علامت‌گذاری‌نشده را تولید کرد، خود سمی نیست؛ در عوض، یک کوفاکتور لازم برای عملکرد توکسین واقعی است. به همین دلیل، برخی از بسته‌های نرم‌افزاری غربالگری حتی پروتئین اصلی را به عنوان خطرناک علامت‌گذاری نکردند، چه رسد به انواع آن. (به همین دلایل، شرکتی که یکی از نرم‌افزارهای با عملکرد بهتر را می‌سازد، تصمیم گرفت که تهدید در اینجا به اندازه‌ای قابل توجه نیست که نیاز به یک وصله امنیتی داشته باشد.)

بنابراین، به خودی خود، به نظر نمی‌رسد این کار چیزی را که در حال حاضر یک تهدید بزرگ باشد، شناسایی کرده باشد. اما احتمالاً مفید است، از این جهت که خوب است افرادی را که نرم‌افزار غربالگری را مهندسی می‌کنند، وادار به فکر کردن در مورد تهدیدات نوظهور کنیم.

دلیل آن این است که، همانطور که افراد پشت این کار اشاره می‌کنند، طراحی پروتئین با هوش مصنوعی هنوز در مراحل اولیه خود است و ما احتمالاً شاهد پیشرفت‌های قابل توجهی خواهیم بود. و احتمالاً محدودیتی برای انواع چیزهایی که می‌توانیم برای آن‌ها غربالگری کنیم، وجود خواهد داشت. ما در حال حاضر به نقطه‌ای رسیده‌ایم که می‌توان از ابزارهای طراحی پروتئین با هوش مصنوعی برای ایجاد پروتئین‌هایی با عملکردهای کاملاً جدید استفاده کرد و این کار را بدون شروع با انواع پروتئین‌های موجود انجام داد. به عبارت دیگر، ما می‌توانیم پروتئین‌هایی طراحی کنیم که غربالگری آن‌ها بر اساس شباهت به تهدیدات شناخته‌شده غیرممکن است، زیرا آن‌ها اصلاً شبیه هیچ چیزی که ما می‌دانیم خطرناک است، نیستند.

طراحی توکسین‌های مبتنی بر پروتئین بسیار دشوار خواهد بود، زیرا آن‌ها باید هم از غشای سلولی عبور کنند و هم پس از ورود به داخل، کار خطرناکی انجام دهند. در حالی که ابزارهای هوش مصنوعی احتمالاً در حال حاضر قادر به طراحی چیزی به این پیچیدگی نیستند، من در رد چشم‌انداز رسیدن نهایی آن‌ها به چنین سطحی از پیچیدگی تردید خواهم داشت.