دسترسی رایگان توسعه دهندگان به سرویس های میکرو انویدیا NIM مهیا شد تحولی بزرگ در توسعه هوش مصنوعی مولد

انقلاب انویدیا در توسعه مدل های هوش مصنوعی مولد با ارائه رایگان NIM

به گزارش زوم تک از وبلاگ توسعه دهندگان انویدیا، شرکت انویدیا در اقدامی جذاب و بی نظیر برای جامعه برنامه نویسان و فعالان حوزه فناوری، دسترسی رایگان به سرویس های میکرو قابل دانلود NVIDIA NIM را برای بیش از پنج میلیون عضو برنامه توسعه دهندگان خود فراهم کرده است. این قابلیت جدید به برنامه نویسان، پژوهشگران و مهندسان هوش مصنوعی اجازه می دهد تا مدل های هوش مصنوعی مولد را با بالاترین سرعت و کارایی در محیط های توسعه، تست و تحقیقات خود پیاده سازی کنند.

سرویس های میکرو انویدیا NIM چیست و چگونه کار می کنند؟

سرویس های میکرو NIM در واقع کانتینرهای بهینه شده ای هستند که امکان میزبانی محلی از مدل های پیش ساخته و سفارشی سازی شده هوش مصنوعی را بر روی پردازنده های گرافیکی انویدیا فراهم می سازند. این کانتینرها را می توان در ابرهای مختلف، مرکز داده ها یا حتی ایستگاه های کاری محلی اجرا کرد. مهم ترین ویژگی این سرویس ها پیاده سازی بسیار آسان آن ها تنها با یک دستور ساده است. علاوه بر این، API های استاندارد صنعتی نظیر مشخصات OpenAI API به صورت خودکار در دسترس قرار می گیرند تا فرایند یکپارچه سازی با برنامه ها و فریمورک های موجود به سرعت انجام شود.

موتورهای استنتاج بهینه شده با TensorRT برای بالاترین سرعت و کمترین تاخیر

استفاده از موتورهای استنتاج پیشرفته بر پایه NVIDIA TensorRT و TensorRT-LLM باعث می شود تا سرویس های میکرو NIM بتوانند کمترین تاخیر در پاسخ گویی و بالاترین توان پردازشی را ارائه دهند. هنگام اجرا، NIM به صورت هوشمند بهترین موتور استنتاج مناسب برای ترکیب مشخصی از مدل پایه، پردازنده گرافیکی و سیستم را انتخاب می کند. همچنین، پشتیبانی داخلی از مقیاس پذیری خودکار با کوبرنتیز (Kubernetes) و ارائه داده های استاندارد برای نظارت بر عملکرد سیستم، از دیگر ویژگی های کلیدی این فناوری قدرتمند به شمار می رود.

کدام مدل های هوش مصنوعی از طریق انویدیا NIM در دسترس قرار گرفته اند؟

اعضای برنامه توسعه دهندگان انویدیا اکنون می توانند به مجموعه وسیعی از جدیدترین مدل های پیشرفته هوش مصنوعی به صورت دانلود مستقیم دسترسی داشته باشند. از جمله این مدل ها می توان به مدل محبوب Meta Llama 3.1 8B و مدل کم حجم و پرسرعت Mistral 7B Instruct اشاره کرد. توسعه دهندگان قادر خواهند بود این سرویس ها را بر روی حداکثر دو نود یا ۱۶ پردازنده گرافیکی به صورت کاملا رایگان برای مقاصد غیرتولیدی مورد استفاده قرار دهند.

چگونه از محیط توسعه به محیط تولید و تجاری سازی منتقل شویم؟

برای شرکت ها و سازمان هایی که قصد دارند پروژه های خود را پس از مرحله توسعه و تست وارد فاز تولید نهایی کنند، انویدیا مجوز رایگان ۹۰ روزه NVIDIA AI Enterprise را ارائه می دهد. این مجوز امکان استفاده تجاری و گسترده تر از تمام ظرفیت های پلتفرم هوش مصنوعی انویدیا را فراهم می سازد و فرآیند انتقال از آزمایشگاه به بازار را بسیار تسهیل می کند.

ابزارها و راهنماهای کاربردی برای شروع به کار سریع با NVIDIA NIM

توسعه دهندگان برای شروع کار تنها کافی است به کاتالوگ API انویدیا مراجعه کرده، مدل مورد نظر خود را انتخاب کنند و با کلیک بر روی گزینه Build with this NIM، کانتینر مربوطه و کلید اختصاصی API را دریافت نمایند. افرادی که هنوز عضو برنامه توسعه دهندگان انویدیا نشده اند نیز می توانند به صورت رایگان و سریع در این برنامه ثبت نام کنند. علاوه بر این، انویدیا راهکارهای ابری پیشرفته ای نظیر NVIDIA Brev Launchable و یکپارچه سازی با هاگینگ فیس (Hugging Face) را برای اجرای سریع مدل ها در اختیار کاربران قرار داده است.

یکپارچه سازی گسترده با فریمورک های مطرح مانند LangChain و LlamaIndex

انویدیا برای تسهیل کار با سیستم های مبتنی بر بازیابی اطلاعات یا همان RAG، نمونه کدهای متعددی را در مخازن گیت هاب منتشر کرده است. این نمونه کدها شامل استفاده از NIM با فریمورک های پرکاربردی مانند LangChain و LlamaIndex، تولید داده های متنی با NeMo-Curator و چت با اسناد از طریق NVIDIA AI Workbench می شود. این ابزارها به مهندسان هوش مصنوعی کمک می کنند تا بدون نیاز به پیکربندی های پیچیده، سیستم های پیشرفته تر مبتنی بر هوش مصنوعی را راه اندازی کنند.