Shawn Fajardo
AWS je razkril prelomno širitev svoje sodelovanja z NVIDIA, ki obeta pomembno izboljšanje procesov AI sklepanja. Napovedano na letni konferenci AWS re:Invent, je AWS razširil mikroservise NVIDIA NIM v svojih ključnih ponudbah AI, z namenom, da zagotovi hitrejšo in učinkovitejšo podporo AI.
Mikroservisi NVIDIA NIM so zdaj dostopni preko platform, vključno z AWS Marketplace, Amazon Bedrock Marketplace in Amazon SageMaker JumpStart, kar poenostavi uvajanje rešitev za sklepanja, optimiziranih za NVIDIA, za različne modele. Ti mikroservisi so del programske opreme NVIDIA AI Enterprise, zasnovane za varno in robustno uvajanje v oblačnih okoljih in podatkovnih centrih.
NIM kontejnerji, razviti z naprednimi motorji za sklepanja, kot sta NVIDIA Triton Inference Server in PyTorch, podpirajo širok spekter modelov AI, bodisi odprtokodnih, bodisi iz NVIDIA Foundation ali po meri ustvarjenih. Ti mikroservisi se brez težav integrirajo s storitvami AWS, kot so Amazon EC2, Amazon EKS in Amazon SageMaker, kar omogoča razvijalcem učinkovito upravljanje aplikacij AI.
Razvijalci lahko predogledajo široko izbiro več kot 100 mikroservisov NIM, ki prikazujejo modele iz znanih virov, kot sta Meta in NVIDIA, med drugim, v katalogu API NVIDIA. Nekateri mikroservisi z veliko povpraševanjem vključujejo modele NVIDIA Nemotron-4 in Llama, ki ponujajo napredne zmogljivosti za generiranje sintetičnih podatkov in večjezične dialoge.
Vključitev NIM je podjetjem, kot je SoftServe, omogočila pospešitev razvoja rešitev, podprtih z AI, v različnih sektorjih. Izkoriščanje zmogljivosti NIM izboljšuje učinkovitost, hkrati pa zagotavlja varnost podatkov. Razvijalci, ki si želijo raziskati te vire, lahko dostopajo do množice modelov in jih uvajajo preko AWS Marketplace, pri čemer izkoriščajo najnovejšo tehnologijo NVIDIA za spodbujanje inovacij.
Odklepanje potencialov AI: Širitev sodelovanja AWS in NVIDIA
AWS je naredil velik korak naprej z izboljšanjem svojega partnerstva z NVIDIA, obetajoč pomembne izboljšave v zmogljivostih sklepanja AI. To sodelovanje je bilo vrhunec na konferenci AWS re:Invent, kjer je bila širitev mikroservisov NVIDIA NIM predstavljena kot ključna novost za povečanje podpore AI na različnih platformah AWS.
Poudarki inovacij: Mikroservisi NVIDIA NIM
Mikroservisi NVIDIA NIM so bili brezhibno integrirani v priljubljene platforme AWS, vključno z AWS Marketplace, Amazon Bedrock Marketplace in Amazon SageMaker JumpStart. Ta integracija si prizadeva poenostaviti postopek uvajanja rešitev za sklepanja, optimiziranih za NVIDIA, in zadostiti potrebam razvijalcev, ki zahtevajo robustne modele AI.
Ti mikroservisi so del paketa NVIDIA AI Enterprise, ki ponuja varno in učinkovito uvajanje tako v oblačnih kot podatkovnih centrih. Z podporo širokega spektra modelov AI — od odprtokodnih in NVIDIA Foundation do rešitev po meri — so ti mikroservisi zasnovani za izpolnjevanje raznolikih potreb industrije.
Izboljšane zmogljivosti za razvijalce AI
Mikroservisi NVIDIA NIM izkoriščajo napredne motorje za sklepanja, kot sta NVIDIA Triton Inference Server in PyTorch, da zagotovijo izjemno zmogljivost. Brez težav se integrirajo s storitvami AWS, kot so Amazon EC2, Amazon EKS in Amazon SageMaker, kar razvijalcem omogoča učinkovito upravljanje in širitev njihovih aplikacij AI.
Ena od edinstvenih značilnosti te ponudbe je obsežen katalog več kot 100 mikroservisov NIM, ki so na voljo preko kataloga API NVIDIA. To vključuje modele z visokim povpraševanjem, kot sta NVIDIA Nemotron-4 in Llama, ki olajšata napredne naloge, kot so generiranje sintetičnih podatkov in večjezični dialogi.
Praktični primeri uporabe in sprejem v industriji
Integracija mikroservisov NIM je že imela transformativni vpliv na podjetja, kot je SoftServe, kar omogoča hitro razvoj AI-podprtih rešitev v različnih sektorjih. To sodelovanje ne le da izboljšuje zmogljivost, ampak tudi zagotavlja strogo varnost podatkov.
Za razvijalce, ki si želijo izkoristiti te najnovejše tehnologije, je bogat repozitorij modelov NVIDIA na voljo preko AWS Marketplace. To jim ponuja obsežne priložnosti za napredek v njihovih inovacijah AI, pri čemer izkoriščajo najsodobnejšo tehnologijo NVIDIA.
Pridobite konkurenčno prednost v AI z AWS in NVIDIA
Partnerstvo AWS in NVIDIA postavlja nove standarde v svetu AI, saj zagotavlja orodja in vire za razvijalce, da premikajo meje mogočega v tehnologiji AI. Ko ti podjetji nadaljujeta z inovacijami, odpirata pot novim odkritjem in aplikacijam v različnih industrijah.
Za več informacij o storitvah AWS obiščite spletno stran AWS.
Ne glede na to, ali ste podjetje, ki si prizadeva pospešiti uvajanje AI, ali razvijalec, ki si prizadeva ustvariti naslednjo veliko stvar v AI, je to sodelovanje med AWS in NVIDIA pripravljeno ponuditi orodja, ki jih potrebujete za uspeh.
