Shawn Fajardo
AWS bemutatta a NVIDIA-val való együttműködésének áttörő kiterjesztését, amely jelentősen javítja az AI következtetési folyamatokat. Az éves AWS re:Invent konferencián bejelentett kiterjesztés keretében az AWS kiterjesztette a NVIDIA NIM mikroservices-t kulcsfontosságú AI ajánlatai között, célja a gyorsabb és hatékonyabb AI támogatás nyújtása.
NVIDIA NIM mikroservices mostantól elérhető az AWS Marketplace, az Amazon Bedrock Marketplace és az Amazon SageMaker JumpStart platformokon, egyszerűsítve a NVIDIA-optimalizált következtetési megoldások telepítését különböző modellekhez. Ezek a mikroservices a NVIDIA AI Enterprise szoftverének részét képezik, amelyet biztonságos és robusztus telepítésre terveztek felhő környezetekben és adatközpontokban.
A NIM konténerek, amelyeket fejlett következtetési motorokkal, például a NVIDIA Triton Inference Server és a PyTorch segítségével fejlesztettek ki, széleskörű AI modellek támogatására alkalmasak, legyenek azok nyílt forráskódúak, NVIDIA Foundation modellek vagy egyedi kreációk. Ezek a mikroservices zökkenőmentesen integrálódnak az AWS szolgáltatásaival, mint például az Amazon EC2, Amazon EKS és Amazon SageMaker, lehetővé téve a fejlesztők számára, hogy hatékonyan kezeljék az AI alkalmazásokat.
A fejlesztők több mint 100 NIM mikroservice széles választékát előnézhetik, amelyek a Meta és a NVIDIA, valamint más jelentős források modelljeit mutatják be a NVIDIA API katalógusában. Néhány nagy keresletű mikroservice közé tartozik a NVIDIA Nemotron-4 és a Llama modellek, amelyek fejlett képességeket kínálnak szintetikus adatok generálására és többnyelvű párbeszédre.
A NIM beépítése lehetővé tette olyan cégek számára, mint a SoftServe, hogy felgyorsítsák az AI-alapú megoldások fejlesztését különböző szektorokban. A NIM képességeinek kihasználása javítja a teljesítményt, miközben biztosítja az adatok biztonságát. A fejlesztők, akik szeretnék felfedezni ezeket az erőforrásokat, hozzáférhetnek számos modellhez, és telepíthetik őket az AWS Marketplace-en, kihasználva a NVIDIA csúcstechnológiáját az innováció előmozdításához.
Az AI potenciáljának felszabadítása: Az AWS és a NVIDIA együttműködésének kiterjesztése
Az AWS óriási lépést tett előre azzal, hogy megerősítette partnerségét a NVIDIA-val, jelentős fejlesztéseket ígérve az AI következtetési képességeiben. Ez az együttműködés a AWS re:Invent konferencia fénypontja volt, ahol a NVIDIA NIM mikroservices kiterjesztését mutatták be, mint kulcsfontosságú újítást az AI támogatásának növelésére az AWS különböző platformjain.
Innovációs kiemelések: NVIDIA NIM Mikroservices
A NVIDIA NIM mikroservices zökkenőmentesen integrálódtak a népszerű AWS platformokba, beleértve az AWS Marketplace-t, az Amazon Bedrock Marketplace-t és az Amazon SageMaker JumpStart-t. Ez az integráció célja a NVIDIA-optimalizált következtetési megoldások telepítési folyamatának egyszerűsítése, a robusztus AI modellek iránti igény kielégítése érdekében.
Ezek a mikroservices a NVIDIA AI Enterprise csomag részét képezik, amely biztonságos és hatékony telepítést kínál felhő- és adatközponti környezetekben. Széleskörű AI modellek támogatásával — nyílt forráskódú, NVIDIA Foundation és egyedi megoldások — ezek a mikroservices a szektor sokféle igényének kielégítésére lettek tervezve.
Fejlettebb képességek az AI Fejlesztők számára
A NVIDIA NIM mikroservices fejlett következtetési motorokat, például a NVIDIA Triton Inference Server-t és a PyTorch-ot használnak, hogy kivételes teljesítményt nyújtsanak. Zökkenőmentesen integrálódnak az AWS szolgáltatásaival, mint például az Amazon EC2, Amazon EKS és Amazon SageMaker, lehetővé téve a fejlesztők számára, hogy hatékonyan kezeljék és méretezzék AI alkalmazásaikat.
Ennek az ajánlatnak egyedi jellemzője a több mint 100 NIM mikroservice széles katalógusa, amely elérhető a NVIDIA API katalógusán keresztül. Ez magában foglalja a nagy keresletű modelleket, mint például a NVIDIA Nemotron-4 és a Llama, amelyek elősegítik a fejlett feladatokat, például a szintetikus adatok generálását és a többnyelvű párbeszédeket.
Gyakorlati felhasználási esetek és ipari elfogadás
A NIM mikroservices integrációja már átalakító hatással volt olyan vállalatokra, mint a SoftServe, lehetővé téve az AI-alapú megoldások gyors fejlesztését különböző szektorokban. Ez az együttműködés nemcsak a teljesítményt javítja, hanem szigorú adatbiztonságot is biztosít.
A fejlesztők, akik szeretnék kihasználni ezeket a csúcstechnológiákat, könnyen hozzáférhetnek a NVIDIA gazdag modellkatalógusához az AWS Marketplace-en. Ez számos lehetőséget kínál számukra, hogy előmozdítsák AI innovációikat, kihasználva a NVIDIA legmodernebb technológiáját.
Versenyelőny az AI-ban az AWS és a NVIDIA segítségével
Az AWS és a NVIDIA partnersége új standardokat állít fel az AI tájban, eszközöket és erőforrásokat biztosítva a fejlesztők számára, hogy átlépjék az AI technológia határait. Ahogy ezek a cégek továbbra is innoválnak, új felfedezések és alkalmazások előtt nyitják meg az utat az iparágakban.
További információkért az AWS szolgáltatásairól látogasson el az AWS weboldalára.
Akár egy vállalat, amely az AI telepítésének felgyorsítására törekszik, akár egy fejlesztő, aki a következő nagy dolgot szeretné megalkotni az AI-ban, az AWS és a NVIDIA közötti együttműködés készen áll arra, hogy megadja a szükséges eszközöket a sikerhez.
