Shawn Fajardo
AWS avaldas mängu muutva laienduse oma koostööle NVIDIA-ga, mis lubab oluliselt täiustada AI järeldusprotsesse. Ajavahemikul AWS re:Invent konverentsil kuulutati välja, et AWS laiendas NVIDIA NIM mikroteenuseid oma peamistes AI pakkumistes, eesmärgiga pakkuda kiiremat ja tõhusamat AI tuge.
NVIDIA NIM mikroteenused on nüüd saadaval platvormidel, sealhulgas AWS Marketplace, Amazon Bedrock Marketplace ja Amazon SageMaker JumpStart, lihtsustades NVIDIA optimeeritud järelduslahenduste juurutamist erinevate mudelite jaoks. Need mikroteenused on osa NVIDIA AI Enterprise tarkvarast, mis on loodud turvaliseks ja robustseks juurutamiseks pilvekeskkondades ja andmekeskustes.
NIM konteinerid, mis on välja töötatud koos täiustatud järeldusmootoritega nagu NVIDIA Triton Inference Server ja PyTorch, toetavad laia valikut AI mudeleid, olgu need siis avatud lähtekoodiga, NVIDIA Foundation või kohandatud loodud. Need mikroteenused integreeruvad sujuvalt AWS teenustega, nagu Amazon EC2, Amazon EKS ja Amazon SageMaker, võimaldades arendajatel tõhusalt hallata AI rakendusi.
Arendajad saavad eelvaate üle 100 NIM mikroteenuse laiale valikule, esitades mudeleid tuntud allikatelt nagu Meta ja NVIDIA, teiste seas, NVIDIA API kataloogis. Mõned kõrge nõudlusega mikroteenused hõlmavad NVIDIA Nemotron-4 ja Llama mudeleid, mis pakuvad täiustatud võimalusi sünteetilise andmete genereerimiseks ja mitmekeelseks dialoogiks.
NIM-i kaasamine on võimaldanud ettevõtetel nagu SoftServe kiirendada AI-põhiste lahenduste arendamist erinevates valdkondades. NIM-i võimekuse kasutamine parandab jõudlust, tagades samal ajal andmete turvalisuse. Arendajad, kes soovivad neid ressursse uurida, saavad juurdepääsu suurele valikule mudelitest ja juurutada neid AWS Marketplace’is, kasutades NVIDIA tipptasemel tehnoloogiat innovatsiooni edendamiseks.
AI Potentsiaalide Vabastamine: AWS ja NVIDIA Koostöö Laieneb
AWS on teinud hiiglasliku sammu edasi, tugevdades oma partnerlust NVIDIA-ga, lubades märkimisväärseid parandusi AI järeldusvõimetes. See koostöö oli AWS re:Invent konverentsi tipphetk, kus tutvustati NVIDIA NIM mikroteenuste laiendamist peamise uuendusena AI toe tõhustamiseks erinevates AWS platvormides.
Uuenduse Tooted: NVIDIA NIM Mikroteenused
NVIDIA NIM mikroteenused on sujuvalt integreeritud populaarsetesse AWS platvormidesse, sealhulgas AWS Marketplace, Amazon Bedrock Marketplace ja Amazon SageMaker JumpStart. See integreerimine eesmärgiga lihtsustada NVIDIA optimeeritud järelduslahenduste juurutamisprotsessi, rahuldades arendajaid, kes vajavad tugevaid AI mudeleid.
Need mikroteenused on osa NVIDIA AI Enterprise komplektist, mis pakub turvalist ja tõhusat juurutamist nii pilve- kui andmekeskuse keskkondades. Toetades laia valikut AI mudeleid — alates avatud lähtekoodist ja NVIDIA Foundationist kuni kohandatud lahendusteni — on need mikroteenused loodud vastama tööstuse mitmekesistele vajadustele.
Täiendavad Võimekused AI Arendajatele
NVIDIA NIM mikroteenused kasutavad täiustatud järeldusmootoreid, nagu NVIDIA Triton Inference Server ja PyTorch, et pakkuda erakordset jõudlust. Need integreeruvad vaevata AWS teenustega, nagu Amazon EC2, Amazon EKS ja Amazon SageMaker, andes arendajatele võimaluse tõhusalt hallata ja skaleerida oma AI rakendusi.
Selle pakkumise ainulaadne omadus on ulatuslik üle 100 NIM mikroteenuse kataloog, mis on saadaval NVIDIA API kataloogis. See hõlmab kõrge nõudlusega mudeleid nagu NVIDIA Nemotron-4 ja Llama, mis hõlbustavad täiustatud ülesandeid, nagu sünteetiliste andmete genereerimine ja mitmekeelsed dialoogid.
Praktilised Kasutuse Näited ja Tööstuse Vastuvõtt
NIM mikroteenuste integreerimine on juba muutnud ettevõtete nagu SoftServe jaoks, võimaldades kiiret AI-põhiste lahenduste arendamist erinevates valdkondades. See koostöö mitte ainult ei paranda jõudlust, vaid tagab ka range andmete turvalisuse.
Arendajatele, kes soovivad neid tipptasemel tehnoloogiaid kasutada, on NVIDIA rikkalik mudelite kogum hõlpsasti kättesaadav AWS Marketplace’is. See annab neile piisavalt võimalusi oma AI uuenduste edendamiseks, kasutades NVIDIA tipptasemel tehnoloogiat.
Saavuta Konkurentsieelis AI-s koos AWS ja NVIDIA-ga
AWS ja NVIDIA partnerlus seab uusi standardeid AI maastikul, pakkudes tööriistu ja ressursse arendajatele, et tõukuda AI tehnoloogia võimaluste piire. Kui need ettevõtted jätkavad innovatsiooni, sillutavad nad teed uutele avastustele ja rakendustele erinevates valdkondades.
Lisainformatsiooni saamiseks AWS teenuste kohta külastage AWS veebisaiti.
Olgu te ettevõte, kes soovib kiirendada AI juurutamist, või arendaja, kes püüab luua järgmise suure asja AI-s, on see koostöö AWS ja NVIDIA vahel valmis pakkuma tööriistu, mida vajate eduks.
