Shawn Fajardo
AWS pristatė revoliucinį savo bendradarbiavimo su NVIDIA plėtimą, kuris žada reikšmingai pagerinti AI išvesties procesus. Pristatytas kasmetinėje AWS re:Invent konferencijoje, AWS išplėtė NVIDIA NIM mikroservisus savo pagrindinėse AI pasiūlymuose, siekdama suteikti greitesnę ir efektyvesnę AI paramą.
NVIDIA NIM mikroservisai dabar yra prieinami per tokias platformas kaip AWS Marketplace, Amazon Bedrock Marketplace ir Amazon SageMaker JumpStart, supaprastindami NVIDIA optimizuotų išvesties sprendimų diegimą įvairiems modeliams. Šie mikroservisai yra NVIDIA AI Enterprise programinės įrangos dalis, sukurta saugiam ir patikimam diegimui debesų aplinkose ir duomenų centruose.
NIM konteineriai, sukurti su pažangiais išvesties varikliais, tokiais kaip NVIDIA Triton Inference Server ir PyTorch, palaiko plačią AI modelių įvairovę, nesvarbu, ar tai būtų atvirojo kodo, NVIDIA Foundation, ar individualūs kūriniai. Šie mikroservisai sklandžiai integruojasi su AWS paslaugomis, tokiomis kaip Amazon EC2, Amazon EKS ir Amazon SageMaker, leidžiant kūrėjams efektyviai valdyti AI programas.
Kūrėjai gali peržiūrėti didelį pasirinkimą daugiau nei 100 NIM mikroservisų, demonstruojančių modelius iš žinomų šaltinių, tokių kaip Meta ir NVIDIA, tarp kitų, NVIDIA API kataloge. Kai kurie didelio paklausos mikroservisai apima NVIDIA Nemotron-4 ir Llama modelius, siūlančius pažangias galimybes sintetinių duomenų generavimui ir daugiakalbiams dialogams.
Įtraukus NIM, įmonės, tokios kaip SoftServe, galėjo pagreitinti AI sprendimų kūrimą įvairiose srityse. Pasinaudojant NIM galimybėmis, pagerinama našumas, užtikrinant duomenų saugumą. Kūrėjai, norintys ištirti šiuos išteklius, gali pasiekti gausybę modelių ir juos diegti per AWS Marketplace, pasinaudodami NVIDIA pažangia technologija, kad skatintų inovacijas.
AI potencialo atvėrimas: AWS ir NVIDIA bendradarbiavimas plečiasi
AWS padarė didelį žingsnį į priekį, sustiprindama savo partnerystę su NVIDIA, žadėdama reikšmingus patobulinimus AI išvesties galimybėse. Šis bendradarbiavimas buvo akcentas AWS re:Invent konferencijoje, kur buvo pristatyta NVIDIA NIM mikroservisų plėtra kaip pagrindinė naujovė, skirta pagerinti AI paramą įvairiose AWS platformose.
Naujoji inovacija: NVIDIA NIM mikroservisai
NVIDIA NIM mikroservisai buvo sklandžiai integruoti į populiarias AWS platformas, įskaitant AWS Marketplace, Amazon Bedrock Marketplace ir Amazon SageMaker JumpStart. Ši integracija siekia supaprastinti NVIDIA optimizuotų išvesties sprendimų diegimo procesą, tenkinant kūrėjų, kuriems reikia tvirtų AI modelių, poreikius.
Šie mikroservisai yra NVIDIA AI Enterprise rinkinio dalis, kuris siūlo saugų ir efektyvų diegimą tiek debesų, tiek duomenų centrų aplinkose. Palaikydami plačią AI modelių įvairovę — nuo atvirojo kodo ir NVIDIA Foundation iki individualiai sukurtų sprendimų — šie mikroservisai yra sukurti atitikti įvairius pramonės poreikius.
Patobulintos galimybės AI kūrėjams
NVIDIA NIM mikroservisai naudoja pažangius išvesties variklius, tokius kaip NVIDIA Triton Inference Server ir PyTorch, kad užtikrintų išskirtinį našumą. Jie sklandžiai integruojasi su AWS paslaugomis, tokiomis kaip Amazon EC2, Amazon EKS ir Amazon SageMaker, suteikdami kūrėjams galimybę efektyviai valdyti ir plėsti savo AI programas.
Unikali šio pasiūlymo savybė yra didelis daugiau nei 100 NIM mikroservisų katalogas, prieinamas per NVIDIA API katalogą. Tai apima didelio paklausos modelius, tokius kaip NVIDIA Nemotron-4 ir Llama, kurie palengvina pažangias užduotis, tokias kaip sintetinių duomenų generavimas ir daugiakalbiai dialogai.
Praktiniai naudojimo atvejai ir pramonės priėmimas
NIM mikroservisų integracija jau turėjo transformacinį poveikį tokioms įmonėms kaip SoftServe, leidžiančioms greitai kurti AI sprendimus įvairiose srityse. Šis bendradarbiavimas ne tik pagerina našumą, bet ir užtikrina griežtą duomenų saugumą.
Kūrėjams, norintiems pasinaudoti šiomis pažangiomis technologijomis, NVIDIA turtingas modelių katalogas yra lengvai prieinamas per AWS Marketplace. Tai suteikia jiems daug galimybių tobulinti savo AI inovacijas, pasinaudojant NVIDIA modernia technologija.
Gaukite konkurencinį pranašumą AI su AWS ir NVIDIA
AWS ir NVIDIA partnerystė nustato naujus standartus AI srityje, teikdama įrankius ir išteklius kūrėjams, kad jie galėtų stumti AI technologijų galimybių ribas. Kol šios įmonės toliau inovuoja, jos atveria kelią naujiems atradimams ir taikymams įvairiose pramonės šakose.
Daugiau informacijos apie AWS paslaugas rasite AWS svetainėje.
Ar esate įmonė, siekianti pagreitinti AI diegimą, ar kūrėjas, siekiantis sukurti kitą didelį dalyką AI srityje, šis AWS ir NVIDIA bendradarbiavimas yra pasiruošęs pasiūlyti jums reikiamus įrankius sėkmei.
