نحوه کارکرد سیری جدید مجهز به Gemini در پشت پرده

بلومبرگ گزارش داده است که گوگل و اپل در حال نهایی کردن یک توافق سالانه یک میلیارد دلاری برای نسخه‌ای از مدل Gemini هستند که قرار است در سال آینده به سیری (Siri) قدرت دهد. اما شاید جالب‌ تر از قیمت، معماری این مدل باشد که بر تجربه کاربری همه تأثیر می‌گذارد.

آیا ۱.۲ تریلیون پارامتر زیاد است؟

به گزارش بخش اخبار فناوری زوم تک به نقل از ۹to۵Mac، طبق گزارش بلومبرگ، گوگل مدلی با ۱.۲ تریلیون پارامتر در اختیار اپل قرار خواهد داد که روی سرورهای Private Cloud Compute اپل مستقر خواهد شد و عملاً از دسترسی گوگل به داده‌ها جلوگیری می‌کند. از نظر حریم خصوصی، این عالی است.

از نظر اندازه، مدل ۱.۲ تریلیون پارامتری رقم کمی نیست. با این حال، مقایسه مستقیم آن با آخرین و بهترین مدل‌های رقیب دشوار است، زیرا آزمایشگاه‌های پیشرفته هوش مصنوعی مانند OpenAI، Anthropic و گوگل در سال‌های اخیر از افشای تعداد پارامترهای مدل‌های پرچمدار خود خودداری کرده‌اند. به همین دلیل، گمانه‌زنی‌های مختلفی در مورد تعداد پارامترهای واقعی مدل‌هایی مانند GPT-5، Gemini 2.5 Pro و Claude Sonnet 4.5 وجود دارد که برخی آن‌ها را کمتر از یک تریلیون و برخی دیگر چند تریلیون می‌دانند.

احتمالاً مدل Gemini سیری از معماری “ترکیب متخصصان” (MoE) استفاده می‌کند

چیزی که اکثر این مدل‌های عظیم و جدید مشترکاً دارند، معماری زیربنایی به نام Mixture of Experts (MoE) یا «ترکیب متخصصان» است. در واقع، اپل در حال حاضر نیز از شکلی از MoE در مدل ابری فعلی خود استفاده می‌کند که شایعه شده ۱۵۰ میلیارد پارامتر دارد.

MoE چگونه کار می‌کند؟

به طور خلاصه، MoE یک تکنیک است که مدل را با چندین شبکه فرعی تخصصی به نام «متخصص» ساختار می‌دهد. برای هر ورودی، تنها چند متخصص مرتبط فعال می‌شوند که منجر به مدلی سریع‌تر و با بازده محاسباتی بالاتر می‌شود.

به عبارت دیگر، این کار به مدل‌های MoE اجازه می‌دهد تا تعداد پارامترهای بسیار بالایی داشته باشند، در حالی که هزینه‌های استنتاج (Inference) را بسیار کمتر از حالتی نگه می‌دارند که ۱۰۰٪ پارامترها برای هر ورودی باید فعال شوند.

نکته دیگری در مورد مدل‌هایی که از رویکرد MoE استفاده می‌کنند این است که آن‌ها معمولاً حداکثر تعداد متخصصان فعال و حداکثر پارامتر فعال برای هر ورودی را دارند که نتیجه‌ای شبیه به این ایجاد می‌کند:

یک مدل با ۱.۲ تریلیون پارامتر کلی ممکن است از ۳۲ متخصص استفاده کند، که تنها ۲ تا ۴ متخصص به ازای هر توکن فعال می‌شوند. این بدان معناست که در هر لحظه، تنها حدود ۷۵ تا ۱۵۰ میلیارد پارامتر در حال انجام محاسبات هستند، که به شما قابلیت یک مدل عظیم را می‌دهد در حالی که هزینه‌های محاسباتی را مشابه اجرای یک مدل بسیار کوچک‌تر نگه می‌دارد.

باید صریح گفت که هیچ گزارشی در مورد معماری مدلی که گوگل در صورت نهایی شدن این شراکت به اپل ارائه خواهد داد، منتشر نشده است. اما با داشتن ۱.۲ تریلیون پارامتر، با توجه به جایگزین‌های موجود، است که برای اجرای کارآمد به رویکرد MoE نیاز داشته باشد.

اینکه آیا این اندازه برای رقابتی نگه داشتن سیری مجهز به Gemini با مدل‌هایی که تا زمان عرضه آن در سال آینده در دسترس خواهند بود، کافی است یا خیر، داستان دیگری است.