Shawn Fajardo
AWS odhalil revoluční rozšíření své spolupráce s NVIDIA, které slibuje významné zlepšení procesů AI inference. Oznámeno na každoroční konferenci AWS re:Invent, AWS rozšířil mikroservisy NVIDIA NIM napříč svými klíčovými AI nabídkami s cílem poskytnout rychlejší a efektivnější podporu AI.
Mikroservisy NVIDIA NIM jsou nyní dostupné prostřednictvím platforem včetně AWS Marketplace, Amazon Bedrock Marketplace a Amazon SageMaker JumpStart, což zjednodušuje nasazení inference řešení optimalizovaných pro NVIDIA pro různé modely. Tyto mikroservisy jsou součástí softwaru NVIDIA AI Enterprise, navrženého pro bezpečné a robustní nasazení v cloudových prostředích a datových centrech.
NIM kontejnery, vyvinuté s pokročilými inference enginy jako NVIDIA Triton Inference Server a PyTorch, podporují širokou škálu AI modelů, ať už open-source, NVIDIA Foundation nebo vlastní kreace. Tyto mikroservisy se bezproblémově integrují s AWS službami jako Amazon EC2, Amazon EKS a Amazon SageMaker, což umožňuje vývojářům efektivně spravovat AI aplikace.
Vývojáři si mohou prohlédnout rozsáhlý výběr více než 100 mikroservis NVIDIA NIM, které předvádějí modely od významných zdrojů jako Meta a NVIDIA, mezi ostatními, v katalogu NVIDIA API. Některé vysoce poptávané mikroservisy zahrnují modely NVIDIA Nemotron-4 a Llama, které nabízejí pokročilé schopnosti pro generování syntetických dat a vícejazyčné dialogy.
Začlenění NIM umožnilo společnostem jako SoftServe urychlit vývoj AI řešení v různých sektorech. Využití schopností NIM zvyšuje výkon a zároveň zajišťuje bezpečnost dat. Vývojáři, kteří chtějí prozkoumat tyto zdroje, mohou přistupovat k množství modelů a nasazovat je prostřednictvím AWS Marketplace, čímž využívají špičkovou technologii NVIDIA k podpoře inovací.
Odemknutí potenciálu AI: Rozšíření spolupráce AWS a NVIDIA
AWS učinil obrovský krok vpřed posílením svého partnerství s NVIDIA, což slibuje významná zlepšení v schopnostech AI inference. Tato spolupráce byla vrcholem konference AWS re:Invent, kde bylo představeno rozšíření mikroservis NVIDIA NIM jako klíčová inovace pro posílení podpory AI napříč různými platformami AWS.
Hlavní inovace: Mikroservisy NVIDIA NIM
Mikroservisy NVIDIA NIM byly bezproblémově integrovány do populárních platforem AWS, včetně AWS Marketplace, Amazon Bedrock Marketplace a Amazon SageMaker JumpStart. Tato integrace má za cíl zjednodušit proces nasazení pro inference řešení optimalizovaná pro NVIDIA, zaměřená na vývojáře, kteří vyžadují robustní AI modely.
Tyto mikroservisy tvoří součást sady NVIDIA AI Enterprise, která nabízí bezpečné a efektivní nasazení jak v cloudovém, tak v datovém centru. S podporou široké škály AI modelů — od open-source a NVIDIA Foundation po vlastní řešení — jsou tyto mikroservisy navrženy tak, aby splnily různé potřeby průmyslu.
Zlepšené schopnosti pro vývojáře AI
Mikroservisy NVIDIA NIM využívají pokročilé inference enginy jako NVIDIA Triton Inference Server a PyTorch k dosažení výjimečného výkonu. Bezproblémově se integrují s AWS službami jako Amazon EC2, Amazon EKS a Amazon SageMaker, což umožňuje vývojářům efektivně spravovat a škálovat své AI aplikace.
Jedinečnou funkcí této nabídky je rozsáhlý katalog více než 100 mikroservis dostupných prostřednictvím katalogu NVIDIA API. To zahrnuje vysoce poptávané modely jako NVIDIA Nemotron-4 a Llama, které usnadňují pokročilé úkoly, jako je generování syntetických dat a vícejazyčné dialogy.
Praktické případy použití a přijetí v průmyslu
Integrace mikroservis NIM již měla transformační dopad na podniky jako SoftServe, což umožnilo rychlý vývoj AI-driven řešení v různých sektorech. Tato spolupráce nejen zvyšuje výkon, ale také zajišťuje přísnou bezpečnost dat.
Pro vývojáře, kteří chtějí využít tyto špičkové technologie, je bohatý modelový repozitář NVIDIA snadno dostupný prostřednictvím AWS Marketplace. To jim poskytuje dostatek příležitostí k pokroku v jejich AI inovacích, s využitím špičkové technologie NVIDIA.
Získejte konkurenční výhodu v AI s AWS a NVIDIA
Partnerství AWS a NVIDIA nastavuje nové standardy v oblasti AI, poskytující nástroje a zdroje pro vývojáře, aby posunuli hranice toho, co je možné v technologii AI. Jak tyto společnosti pokračují v inovacích, otevírají cestu pro nové objevy a aplikace napříč průmysly.
Pro více informací o službách AWS navštivte webové stránky AWS.
Ať už jste podnik, který se snaží urychlit nasazení AI, nebo vývojář, který se snaží vytvořit další velkou věc v AI, tato spolupráce mezi AWS a NVIDIA je připravena nabídnout nástroje, které potřebujete k úspěchu.
