Shawn Fajardo
AWS atklāja revolucionāru paplašinājumu savā sadarbībā ar NVIDIA, kas sola būtiski uzlabot AI secināšanas procesus. Paziņots ikgadējā AWS re:Invent konferencē, AWS paplašināja NVIDIA NIM mikroservisus visās savās galvenajās AI piedāvājumos, cenšoties nodrošināt ātrāku un efektīvāku AI atbalstu.
NVIDIA NIM mikroservisi tagad ir pieejami platformās, tostarp AWS Marketplace, Amazon Bedrock Marketplace un Amazon SageMaker JumpStart, vienkāršojot NVIDIA optimizētu secināšanas risinājumu izvietošanu dažādiem modeļiem. Šie mikroservisi ir daļa no NVIDIA AI Enterprise programmatūras, kas izstrādāta drošai un stabilai izvietošanai mākoņa vidēs un datu centros.
NIM konteineri, kas izstrādāti ar progresīvām secināšanas dzinējiem, piemēram, NVIDIA Triton Inference Server un PyTorch, atbalsta plašu AI modeļu klāstu, neatkarīgi no tā, vai tie ir atvērtā koda, NVIDIA Foundation vai pielāgoti radījumi. Šie mikroservisi bez piepūles integrējas ar AWS pakalpojumiem, piemēram, Amazon EC2, Amazon EKS un Amazon SageMaker, ļaujot izstrādātājiem efektīvi pārvaldīt AI lietojumprogrammas.
Izstrādātāji var iepazīties ar plašu vairāk nekā 100 NIM mikroservisu izvēli, demonstrējot modeļus no ievērojamiem avotiem, piemēram, Meta un NVIDIA, starp citiem, NVIDIA API katalogā. Daži augstas pieprasījuma mikroservisi ietver NVIDIA Nemotron-4 un Llama modeļus, kas piedāvā uzlabotas iespējas sintētisko datu ģenerēšanai un daudzvalodu dialogiem.
NIM iekļaušana ir ļāvusi uzņēmumiem, piemēram, SoftServe, paātrināt AI risinājumu izstrādi dažādās nozarēs. Izmantojot NIM iespējas, tiek uzlabota veiktspēja, vienlaikus nodrošinot datu drošību. Izstrādātāji, kas vēlas izpētīt šos resursus, var piekļūt plašam modeļu klāstam un izvietot tos caur AWS Marketplace, izmantojot NVIDIA modernās tehnoloģijas, lai veicinātu inovācijas.
AI potenciāla atbloķēšana: AWS un NVIDIA sadarbība paplašinās
AWS ir veicis milzīgu soli uz priekšu, uzlabojot savu partnerību ar NVIDIA, solot ievērojamus uzlabojumus AI secināšanas spējās. Šī sadarbība bija izcils brīdis AWS re:Invent konferencē, kur tika ieviesta NVIDIA NIM mikroservisu paplašināšana kā galvenā inovācija, lai uzlabotu AI atbalstu dažādās AWS platformās.
Inovāciju izcelšana: NVIDIA NIM mikroservisi
NVIDIA NIM mikroservisi ir bez piepūles integrēti populārās AWS platformās, tostarp AWS Marketplace, Amazon Bedrock Marketplace un Amazon SageMaker JumpStart. Šī integrācija ir vērsta uz NVIDIA optimizētu secināšanas risinājumu izvietošanas procesa vienkāršošanu, apkalpojot izstrādātājus, kuriem nepieciešami robusti AI modeļi.
Šie mikroservisi ir daļa no NVIDIA AI Enterprise komplekta, kas piedāvā drošu un efektīvu izvietošanu gan mākoņa, gan datu centra vidēs. Ar atbalstu plašam AI modeļu klāstam — no atvērtā koda un NVIDIA Foundation līdz pielāgotām risinājumiem — šie mikroservisi ir izstrādāti, lai apmierinātu nozares dažādās vajadzības.
Uzlabotas iespējas AI izstrādātājiem
NVIDIA NIM mikroservisi izmanto progresīvus secināšanas dzinējus, piemēram, NVIDIA Triton Inference Server un PyTorch, lai nodrošinātu izcilu veiktspēju. Tie bez piepūles integrējas ar AWS pakalpojumiem, piemēram, Amazon EC2, Amazon EKS un Amazon SageMaker, dodot iespēju izstrādātājiem efektīvi pārvaldīt un paplašināt savas AI lietojumprogrammas.
Unikāla šī piedāvājuma iezīme ir plašais katalogs ar vairāk nekā 100 NIM mikroservisiem, kas pieejami caur NVIDIA API katalogu. Tas ietver augstas pieprasījuma modeļus, piemēram, NVIDIA Nemotron-4 un Llama, kas atvieglo tādas uzlabotas darbības kā sintētisko datu ģenerēšana un daudzvalodu dialogi.
Praktiski lietošanas gadījumi un nozares pieņemšana
NIM mikroservisu integrācija jau ir radījusi transformējošu ietekmi uz uzņēmumiem, piemēram, SoftServe, ļaujot ātri attīstīt AI virzītus risinājumus dažādās nozarēs. Šī sadarbība ne tikai uzlabo veiktspēju, bet arī nodrošina stingru datu drošību.
Izstrādātājiem, kas vēlas izmantot šīs modernās tehnoloģijas, NVIDIA bagātā modeļu krātuve ir viegli pieejama caur AWS Marketplace. Tas nodrošina viņiem plašas iespējas attīstīt savas AI inovācijas, izmantojot NVIDIA moderno tehnoloģiju.
Iegūstiet konkurences priekšrocības AI ar AWS un NVIDIA
AWS un NVIDIA partnerība nosaka jaunus standartus AI ainavā, nodrošinot rīkus un resursus izstrādātājiem, lai virzītu uz priekšu to, kas ir iespējams AI tehnoloģijā. Kamēr šie uzņēmumi turpina inovēt, viņi pavērs jaunas atklāšanas un lietojumprogrammas visās nozarēs.
Lai iegūtu vairāk informācijas par AWS pakalpojumiem, apmeklējiet AWS vietni.
Neatkarīgi no tā, vai esat uzņēmums, kas cenšas paātrināt AI izvietošanu, vai izstrādātājs, kurš cenšas izveidot nākamo lielo lietu AI, šī AWS un NVIDIA sadarbība ir gatava piedāvāt rīkus, kas jums nepieciešami, lai gūtu panākumus.
