انقلاب در هوش مصنوعی؛ مدل‌ هایی که خودشان را آموزش می‌ دهند

مدل‌ های هوش مصنوعی که قادرند در حین فعالیت، مهارت‌ های خود را ارتقا دهند، به داغ‌ ترین ترند سال ۲۰۲۶ تبدیل شده‌اند. این حوزه که توجه استارتاپ‌ های بزرگ و آزمایشگاه‌ های پیشرویی نظیر Google DeepMind را به خود جلب کرده، نویدبخش جهشی بزرگ در توانمندی‌ های هوش مصنوعی است؛ هرچند که همزمان هشدارهای امنیتی جدیدی را نیز به همراه دارد.

به گزارش بخش اخبار فناوری زوم تک به نقل از Axios، این رویکرد که در اصطلاح فنی «خود-بهبودی بازگشتی» (Recursive Self-Improvement) نامیده می‌شود، به عنوان کلیدی‌ ترین تکنیک برای حفظ سرعت رشد خیره‌کننده هوش مصنوعی شناخته می‌ شود. هدف نهایی این است که مدل‌ ها پس از پایان دوره آموزش رسمی، بتوانند در دنیای واقعی به یادگیری خود ادامه دهند.

تلاش غول‌ های فناوری برای ساخت «محقق خودکار»

دمیس هاسابیس، مدیرعامل DeepMind، در مصاحبه‌ای در حاشیه اجلاس داووس ۲۰۲۶ تایید کرد که گوگل به شدت در حال بررسی این موضوع است که آیا مدل‌ها می‌توانند پس از اتمام فرآیند آموزش، در محیط‌های عملیاتی به یادگیری مستقل ادامه دهند یا خیر. از سوی دیگر، سم آلتمن، مدیرعامل OpenAI نیز وعده داده است که این شرکت تا مارس ۲۰۲۸ یک «محقق هوش مصنوعی کاملاً خودکار» تولید خواهد کرد.

نکات کلیدی این فناوری شامل موارد زیر است:

• خود-اصلاحی کدها: هوش مصنوعی می‌تواند کدهای برنامه‌نویسی خود را بازنویسی و بهینه کند.
• تسریع متد علمی: خودکارسازی فرآیند فرضیه، آزمایش و نتیجه‌گیری برای حل مسائل پیچیده بشری.
• کاهش نیاز به داده‌های انسانی: مدل‌ها با استفاده از داده‌های تولید شده توسط خودشان (Synthetic Data)، نقاط ضعف خود را برطرف می‌کنند.

استارتاپ ۴ میلیارد دلاری ریچارد ساچر: Recursive

ریچارد ساچر، مدیرعامل You.com، با بهره‌گیری از این موج جدید، استارتاپ جدیدی به نام Recursive (بازگشتی) را راه‌اندازی کرده است. گزارش‌های مالی نشان می‌دهد که این استارتاپ در جریان جذب سرمایه اخیر خود، ارزشی نزدیک به ۴ میلیارد دلار پیدا کرده است. ساچر معتقد است که اگر بتوان حلقه کدنویسی هوش مصنوعی توسط هوش مصنوعی را به درستی بست، می‌توان به «ابر هوش مصنوعی» دست یافت که به نفع بشریت عمل می‌کند.

خطرات و هشدارهای امنیتی

با وجود هیجان بالا، گزارش جدید مرکز امنیت و فناوری‌های نوظهور (CSET) که به طور اختصاصی در اختیار اکسیوس قرار گرفته، نشان می‌دهد که سیستم‌های خود-بهبوددهنده ممکن است خطراتی را ایجاد کنند که شناسایی و کنترل آن‌ها دشوارتر است.

• پیچیدگی دنیای واقعی: هاسابیس هشدار می‌دهد که دنیای واقعی بسیار کثیف‌تر و پیچیده‌تر از یک صفحه شطرنج است و اشتباهات هوش مصنوعی در اینجا می‌تواند عواقب جبران‌ناپذیری داشته باشد.
• رفتارهای فریبکارانه: محققان پیش از این شاهد نشانه‌هایی بوده‌اند که مدل‌ها برای رسیدن به اهداف تعیین شده، از تکنیک‌های فریب استفاده می‌کنند.
• عدم شفافیت: سیاست‌گذاران در حال حاضر ابزار کافی برای نظارت بر فرآیندهای خودکار تحقیق و توسعه (R&D) هوش مصنوعی ندارند.

در نهایت، اگرچه خود-بهبودی بازگشتی می‌تواند جهش بعدی در قابلیت‌های هوش مصنوعی باشد، اما این فناوری را به پیچیدگی‌های دنیای واقعی نزدیک‌تر می‌کند؛ جایی که خطاها، سوءاستفاده‌ها و پیامدهای ناخواسته بسیار سخت‌تر مهار می‌شوند.