کارت گرافیک RTX 5090 انویدیا، پیشتاز اجرای هوش مصنوعی دیپ‌ سیک

به گزارش بخش اخبار فناوری زوم تک , در دنیای رقابتی هوش مصنوعی، سخت‌ افزار مناسب نقش حیاتی در آموزش و اجرای مدل‌ های پیچیده ایفا می‌کند. بر اساس آخرین گزارش‌ ها، کارت گرافیک RTX 5090 با عملکرد بی‌ نظیر خود در اجرای هوش مصنوعی Deep Seek، عنوان قوی‌ ترین کارت گرافیک موجود برای این کاربرد را به خود اختصاص داده است.

با پیشرفت روزافزون هوش مصنوعی، نیاز به سخت‌ افزار قدرتمند تر و بهینه‌ تر نیز افزایش می‌یابد. RTX 5090 با ارائه عملکرد بی‌نظیر خود، نشان می‌دهد که نسل جدید کارت‌ های گرافیک می‌توانند نقش مهمی در توسعه و پیشرفت هوش مصنوعی ایفا کنند.

RTX 5090 سلطان اجرای هوش مصنوعی Deep Seek : کارت گرافیکی که رقبا را به چالش می‌کشد

شرکت انویدیا به تازگی ادعا کرده است که کارت گرافیک پرچمدار این شرکت، RTX 5090، قادر است مدل هوش مصنوعی استدلالی DeepSeek R1 را بسیار سریع‌ تر از رقیب خود، RX 7900 XTX از AMD، اجرا کند. این برتری عملکرد به هسته‌ های تنسور نسل پنجم موجود در تراشه بلک‌ ول نسبت داده شده است.

مدل‌ های استدلالی، نسل جدیدی از مدل‌ های زبانی بزرگ هستند که با صرف زمان بیشتر برای تفکر و تحلیل، قادر به حل مسائل پیچیده و ارائه مراحل مورد نیاز برای حل مسئله می‌باشند. این مدل‌ ها با درک عمیق‌ تر از نیازهای کاربر، تجربه کاربری بهتری را فراهم می‌کنند و در انجام وظایف پیچیده و چند مرحله‌ای به کاربر کمک می‌کنند.

شرکت دیپ‌ سیک با استفاده از تکنیکی به نام Distillation، مجموعه‌ای از ۶ مدل کوچکتر با پارامتر های ۱.۵ تا ۷۰ میلیارد را از مدل بزرگ ۶۷۱ میلیارد پارامتری خود ایجاد کرده است. قابلیت‌ های استدلالی مدل بزرگتر به مدل‌ های کوچکتر Llama و Qwen آموزش داده شده و در نتیجه، مدل‌ های قدرتمندی حاصل شده‌اند که قابلیت اجرا به صورت محلی روی کامپیوتر ها را دارند.

پیش از این، شرکت AMD توانایی کارت گرافیک پرچمدار RX 7900 XTX خود را در اجرای مدل دیپ‌ سیک R1 به نمایش گذاشته بود. اکنون، انویدیا نیز بنچمارک‌ های عملکرد این مدل را روی جدید ترین کارت گرافیک خود ارائه کرده است که نشان می‌دهد RTX 5090 از کارت گرافیک AMD برتر است.

کارت RTX 5090 در سرعت پردازش مدل‌ های مختلف دیپ‌ سیک R1، به وضوح از RX 7900 XTX و حتی RTX 4090 جلوتر است. این کارت گرافیک توانست دو مدل Distill Qwen 7b و Distill Llama 8b را تا ۲۰۰ توکن در ثانیه اجرا کند که تقریباً دو برابر رقیب خود از AMD است.

انویدیا برای کاربرانی که علاقه مند به اجرای هوش مصنوعی دیپ‌ سیک R1 روی کارت‌های گرافیک RTX خود هستند، مقاله ای اختصاصی منتشر کرده است تا راهنمایی‌ های لازم را در اختیار آنها قرار دهد.

در پست وبلاگ انویدیا آمده است: R1 دقت بالایی برای کارهای نیازمند به استنتاج منطقی، استدلال، ریاضیات، کد نویسی و درک زبان ارائه می‌دهد و در عین حال کارایی چشمگیری در استنتاج دارد. برای کمک به توسعه‌ دهندگان در آزمایش این قابلیت‌ ها و ساخت ایجنت‌ های اختصاصی، مدل Deep Seek-R1 با ۶۷۱ میلیارد پارامتر اکنون به عنوان نسخه پیش نمایش میکرو سرویس NVIDIA NIM در وبسایت build.nvidia.com در دسترس است. میکرو سرویس DeepSeek-R1 می‌تواند تا ۳۸۷۲ توکن در ثانیه را در یک سیستم NVIDIA HGX H200 ارائه دهد.

تیم سبز همچنین اضافه می‌کند: توسعه‌ دهندگان می‌توانند قابلیت مذکور را از طریق رابط برنامه‌ نویسی (API) تجربه کنند که انتظار می‌رود به زودی به عنوان میکرو سرویس NIM دانلود شدنی در دسترس باشد و بخشی از پلتفرم نرم‌ افزاری NVIDIA AI Enterprise قرار بگیرد.

با استفاده از NIM انویدیا، توسعه‌ دهندگان و علاقه‌ مندان می‌توانند مدل هوش مصنوعی را به صورت محلی روی سیستم خود آزمایش کنند. این کار نه تنها از اطلاعات آنها محافظت می‌کند، بلکه می‌تواند عملکرد بهتری را نیز ارائه دهد.