Shawn Fajardo
AWS разкри революционно разширение на сътрудничеството си с NVIDIA, което обещава значително подобряване на процесите на AI инференция. Обявено на годишната конференция AWS re:Invent, AWS разшири NVIDIA NIM микросервизи в основните си AI предложения, с цел да предостави по-бърза и по-ефективна AI поддръжка.
NVIDIA NIM микросервизи вече са достъпни чрез платформи, включително AWS Marketplace, Amazon Bedrock Marketplace и Amazon SageMaker JumpStart, опростявайки внедряването на NVIDIA-оптимизирани решения за инференция за различни модели. Тези микросервизи са част от софтуера на NVIDIA AI Enterprise, проектиран за сигурно и стабилно внедряване в облачни среди и центрове за данни.
NIM контейнери, разработени с напреднали инференционни двигатели като NVIDIA Triton Inference Server и PyTorch, поддържат широк спектър от AI модели, независимо дали са с отворен код, NVIDIA Foundation или персонализирани творения. Тези микросервизи безпроблемно се интегрират с AWS услуги като Amazon EC2, Amazon EKS и Amazon SageMaker, позволявайки на разработчиците да управляват ефективно AI приложения.
Разработчиците могат да прегледат огромен избор от над 100 NIM микросервизи, демонстриращи модели от забележителни източници като Meta и NVIDIA, наред с други, в каталога на NVIDIA API. Някои от микросервисите с високо търсене включват NVIDIA Nemotron-4 и Llama модели, предлагащи напреднали възможности за генериране на синтетични данни и многоезичен диалог.
Интегрирането на NIM е дало възможност на компании като SoftServe да ускорят разработката на AI-управлявани решения в различни сектори. Използването на възможностите на NIM подобрява производителността, като същевременно осигурява сигурност на данните. Разработчиците, които искат да изследват тези ресурси, могат да получат достъп до множество модели и да ги внедрят чрез AWS Marketplace, използвайки авангардната технология на NVIDIA за насърчаване на иновациите.
Разкриване на AI потенциали: Сътрудничеството между AWS и NVIDIA се разширява
AWS направи огромна крачка напред, като подобри партньорството си с NVIDIA, обещавайки значителни подобрения в възможностите за AI инференция. Това сътрудничество беше акцент на конференцията AWS re:Invent, където разширението на NVIDIA NIM микросервизите беше представено като ключова иновация за увеличаване на AI поддръжката в различни AWS платформи.
Акценти на иновацията: NVIDIA NIM микросервизи
NVIDIA NIM микросервизите са безпроблемно интегрирани в популярни AWS платформи, включително AWS Marketplace, Amazon Bedrock Marketplace и Amazon SageMaker JumpStart. Тази интеграция цели да опрости процеса на внедряване на NVIDIA-оптимизирани решения за инференция, обслужващи разработчици, които изискват стабилни AI модели.
Тези микросервизи са част от пакета NVIDIA AI Enterprise, който предлага сигурно и ефективно внедряване както в облачни, така и в центрове за данни. С поддръжка на широк спектър от AI модели — от с отворен код и NVIDIA Foundation до персонализирани решения — тези микросервизи са проектирани да отговорят на разнообразните нужди на индустрията.
Подобрени възможности за AI разработчици
NVIDIA NIM микросервизите използват напреднали инференционни двигатели като NVIDIA Triton Inference Server и PyTorch, за да предоставят изключителна производителност. Те се интегрират без усилия с AWS услуги като Amazon EC2, Amazon EKS и Amazon SageMaker, позволявайки на разработчиците да управляват и мащабират AI приложенията си ефективно.
Уникалната характеристика на това предложение е огромният каталог от над 100 NIM микросервизи, налични чрез каталога на NVIDIA API. Това включва модели с високо търсене като NVIDIA Nemotron-4 и Llama, които улесняват напреднали задачи като генериране на синтетични данни и многоезични диалози.
Практически случаи на употреба и приемане в индустрията
Интеграцията на NIM микросервизите вече оказа трансформиращо въздействие върху бизнеса като SoftServe, позволявайки бърза разработка на AI-управлявани решения в различни сектори. Това сътрудничество не само подобрява производителността, но и осигурява строга сигурност на данните.
За разработчиците, желаещи да използват тези авангардни технологии, богатият модел на NVIDIA е лесно достъпен чрез AWS Marketplace. Това им предоставя множество възможности да напреднат в своите AI иновации, използвайки съвременната технология на NVIDIA.
Получете конкурентно предимство в AI с AWS и NVIDIA
Партньорството между AWS и NVIDIA задава нови стандарти в AI ландшафта, предоставяйки инструменти и ресурси за разработчици да разширят границите на възможното в AI технологията. Докато тези компании продължават да иновират, те прокарват пътя за нови открития и приложения в различни индустрии.
За повече информация относно услугите на AWS, посетете уебсайта на AWS.
Независимо дали сте предприятие, което цели да ускори внедряването на AI, или разработчик, стремящ се да създаде следващото голямо нещо в AI, това сътрудничество между AWS и NVIDIA е готово да предложи инструментите, от които се нуждаете, за да успеете.
