Shawn Fajardo
AWS odhalil revolučné rozšírenie svojej spolupráce s NVIDIA, ktoré sľubuje výrazné zlepšenie procesov AI inferencie. Oznámené na každoročnej konferencii AWS re:Invent, AWS rozšíril mikroservisy NVIDIA NIM naprieč svojimi kľúčovými AI ponukami, s cieľom poskytnúť rýchlejšiu a efektívnejšiu podporu AI.
Mikroservisy NVIDIA NIM sú teraz dostupné prostredníctvom platforiem vrátane AWS Marketplace, Amazon Bedrock Marketplace a Amazon SageMaker JumpStart, čím sa zjednodušuje nasadenie NVIDIA optimalizovaných riešení inferencie pre rôzne modely. Tieto mikroservisy sú súčasťou softvéru NVIDIA AI Enterprise, navrhnutého na bezpečné a robustné nasadenie v cloudových prostrediach a dátových centrách.
NIM kontajnery, vyvinuté s pokročilými inferenčnými enginmi ako NVIDIA Triton Inference Server a PyTorch, podporujú široké spektrum AI modelov, či už open-source, NVIDIA Foundation alebo vlastných výtvorov. Tieto mikroservisy sa bezproblémovo integrujú s AWS službami ako Amazon EC2, Amazon EKS a Amazon SageMaker, čo umožňuje vývojárom efektívne spravovať AI aplikácie.
Vývojári si môžu prezrieť rozsiahly výber viac ako 100 mikroservisov NIM, ktoré predvádzajú modely od známych zdrojov ako Meta a NVIDIA, medzi inými, v katalógu NVIDIA API. Niektoré mikroservisy s vysokým dopytom zahŕňajú modely NVIDIA Nemotron-4 a Llama, ktoré ponúkajú pokročilé schopnosti pre generovanie syntetických dát a viacjazyčné dialógy.
Zavedenie NIM posilnilo firmy ako SoftServe, aby urýchlili vývoj riešení poháňaných AI v rôznych sektoroch. Využívanie schopností NIM zvyšuje výkon a zároveň zabezpečuje ochranu údajov. Vývojári, ktorí sú nadšení z objavovania týchto zdrojov, môžu získať prístup k množstvu modelov a nasadiť ich prostredníctvom AWS Marketplace, pričom využijú najmodernejšiu technológiu NVIDIA na podporu inovácií.
Odblokovanie potenciálov AI: Spolupráca AWS a NVIDIA sa rozširuje
AWS urobil obrovský krok vpred posilnením svojho partnerstva s NVIDIA, sľubujúc významné zlepšenia v schopnostiach AI inferencie. Táto spolupráca bola vrcholom konferencie AWS re:Invent, kde bolo predstavené rozšírenie mikroservisov NVIDIA NIM ako kľúčová inovácia na posilnenie podpory AI naprieč rôznymi platformami AWS.
Inovačné zaujímavosti: Mikroservisy NVIDIA NIM
Mikroservisy NVIDIA NIM boli bezproblémovo integrované do populárnych platforiem AWS, vrátane AWS Marketplace, Amazon Bedrock Marketplace a Amazon SageMaker JumpStart. Táto integrácia má za cieľ zjednodušiť proces nasadenia pre NVIDIA optimalizované riešenia inferencie, prispôsobené vývojárom, ktorí potrebujú robustné AI modely.
Tieto mikroservisy tvoria súčasť súpravy NVIDIA AI Enterprise, ktorá ponúka bezpečné a efektívne nasadenie v cloudových a dátových centrách. S podporou širokej škály AI modelov — od open-source a NVIDIA Foundation po vlastné riešenia — sú tieto mikroservisy navrhnuté tak, aby vyhovovali rôznym potrebám odvetvia.
Zlepšené schopnosti pre vývojárov AI
Mikroservisy NVIDIA NIM využívajú pokročilé inferenčné enginy ako NVIDIA Triton Inference Server a PyTorch na poskytovanie výnimočného výkonu. Bezproblémovo sa integrujú so službami AWS ako Amazon EC2, Amazon EKS a Amazon SageMaker, čo umožňuje vývojárom efektívne spravovať a škálovať svoje AI aplikácie.
Jednou z jedinečných funkcií tejto ponuky je rozsiahly katalóg viac ako 100 mikroservisov NIM dostupných prostredníctvom katalógu NVIDIA API. To zahŕňa modely s vysokým dopytom ako NVIDIA Nemotron-4 a Llama, ktoré uľahčujú pokročilé úlohy ako generovanie syntetických dát a viacjazyčné dialógy.
Praktické prípady použitia a adopcia v priemysle
Integrácia mikroservisov NIM už mala transformačný dopad na podniky ako SoftServe, umožňujúc rýchly vývoj riešení poháňaných AI v rôznych sektoroch. Táto spolupráca nielenže zvyšuje výkon, ale aj zabezpečuje prísnu ochranu údajov.
Pre vývojárov, ktorí sú nadšení z využívania týchto najmodernejších technológií, je bohatý modelový repozitár NVIDIA ľahko prístupný prostredníctvom AWS Marketplace. To im poskytuje dostatok príležitostí na pokrok v inováciách AI, využívajúc špičkovú technológiu NVIDIA.
Získajte konkurenčnú výhodu v AI s AWS a NVIDIA
Partnerstvo AWS a NVIDIA nastavuje nové štandardy v oblasti AI, poskytujúc nástroje a zdroje pre vývojárov, aby posunuli hranice toho, čo je možné v technológii AI. Ako tieto spoločnosti pokračujú v inováciách, otvárajú cestu novým objavom a aplikáciám naprieč priemyslom.
Pre viac informácií o službách AWS navštívte webovú stránku AWS.
Či už ste podnik, ktorý sa snaží urýchliť nasadenie AI, alebo vývojár, ktorý sa usiluje vytvoriť ďalšiu veľkú vec v AI, táto spolupráca medzi AWS a NVIDIA je pripravená poskytnúť nástroje, ktoré potrebujete na úspech.
