Revolutsioon AI-arvutuses: Liqidi UltraStack ja Meta virtuaalreaalsuse projekt
Meta (endine Facebook), tuntud oma pühendumuse poolest uusimate tehnoloogiate kasutuselevõtule, on leidnud lahenduse nende virtuaalreaalsuse uurimisprojekti suurema GPU-draiviga arvutusvõimsuse vajaduste jaoks. Projekt seisnes piirangutes, mis tulenesid IT-tööstuse levinud takistustest piiratud GPU-serverite tiheduse ja kättesaadavuse osas. Siiski pöördus Meta Liqidi poole, mis on pioneer komposiidist lahtiseotud infrastruktuuris, nende väljakutsete ületamiseks.
Liqid tutvustas UltraStacki serverilahendust, milles on 2U Dell PowerEdge serverid, millel on kuni 20 NVIDIA L40S GPU’d. See uuenduslik lahendus rahuldab mitte ainult nõudlust suure GPU-tiheduse järele, vaid parandab oluliselt ka jõudlust. UltraStackil on potentsiaal kiirendada järgmise põlvkonna koormusi, pakkudes märkimisväärset 35% jõudluse kasvu. Lisaks pakub see ka kulude kokkuhoidu – 35% vähenemist energiakasutuses ja tohutut 75% vähenemist tarkvara litsentsimise kuludes võrreldes serveritega, mille GPU võimekus on madalam.
Meta personali uurimisinsener Vasu Agrawal valgustab Liqidi UltraStacki mõju NVIDIA L40S GPU-de ja Dell PowerEdge serveritega videos. Ta rõhutab, kuidas see infrastruktuur on nende VR-projekti muutnud, tugevdades arvutusvõimsust ja toetades märkimisväärseid edusamme.
UltraStacki peamiseks eeliseks on võimeühendada suur hulk GPU-sid standardserveriga. Sellega lahendatakse tõhusalt kolm olulist AI-arvutuse väljakutset: kulu ja keerukus, aeg ning jõudlus.
Esiteks kõrvaldab UltraStack kulu ja keerukuse, mis on seotud ebapiisava GPU tihedusega. Paljud AI rakendused seisavad silmitsi piiratud arvu GPU-dega serveri kohta, mis toob kaasa suurenenud energiakulud, jahutuskulud, ruumikulud ja süsteemi halduse keerukused. Siiski lahendab UltraStack selle probleemi, lülitades sisse kuni 20 GPU’d serveri kohta.
Teiseks kohtavad AI-infrastruktuuri rakendused sageli viivitusi kõrgjõudlusega GPU-de piiratud saadavuse tõttu. UltraStacki integreerimine kergesti kättesaadavate NVIDIA L40S GPU-dega tagab õigeaegse ja tõhusa paigutuse.
Lõpuks pakub UltraStack erakordset jõudlust, konsolideerides kuni 20 GPU’d serveri kohta. Testitulemuste kohaselt saavutas UltraStack MLPerf 3.1 Inference LLM (suure keelemodelli) kasutamisel märkimisväärse päringute arvu sekundis erinevate domeenide puhul. Näiteks 16x L40S GPU-dega saavutas UltraStack muljetavaldava 94 päringut/sek ~7000W jaoks MLPerf 3.1 Inference LLM. Lisaks näitas UltraStack oma võimekust objektide tuvastamises, meditsiinipildistamises ning loomuliku keele töötlemises, saavutades vastavalt 10 104 päringut/sek, 62,6 päringut/sek ja 44 730 päringut/sek.
Liqid pakub UltraStacki nii iseseisvate kui ka klastrivalmis serveri valikuna. Iseseisvad serverid hoiavad kuni 20 GPU’d, samal ajal kui klastrivalmis serverid sisaldavad kuni 16 L40S GPU-d, koos Liqidi IO kiirendi NVMe SSD-dega, NVIDIA ConnectX-7 NIC-dega ja NVIDIA BlueField-3 DP-dega, et suurendada ühenduvust ja tõhusust keerulistes AI keskkondades.
Liqidi UltraStacki ühendamine Meta pühendumusega AI-tehnoloogia vastuvõtmisele näitab märkimisväärset edasiminekut AI-arvutuse valdkonnas. Kesksed väljakutsed ja olulised küsimused seotud teemaga on:
Kuidas võrdub UltraStacki GPU tihedus traditsiooniliste serverikonfiguratsioonidega?
Milliseid konkreetseid jõudluse parandusi saavutati UltraStackiga erinevates AI-koormustes?
Kuidas aitab UltraStack lahendada kulusid ja keerukust AI-arvutuses?
Millised on parandatud GPU arvutusvõimsuse potentsiaalsed rakendused Meta virtuaalreaalsuse uurimisprojektis?
Kuidas aitab Liqidi IO kiirendi NVMe SSD-d, NVIDIA ConnectX-7 NIC-d ja NVIDIA BlueField-3 DP-d klastrivalmis serverite tõhususele kaasa?
Tänane väljakutsetest ja vaidlustest seotud teemaga hõlmavad:
Skalabilisus: Kuigi UltraStack lahendab GPU tiheduse piirangud traditsioonilistes serverikonfiguratsioonides, võib infrastruktuuri laiendamine suuremate AI-koormuste mahutamiseks endiselt põhjustada väljakutseid. Organisatsioonidel tuleb hoolikalt planeerida oma infrastruktuuri paigutust ja arvestada tegureid nagu elektri- ja jahutusnõuded.
Kulu: Kuigi UltraStack pakub kulude kokkuhoidu energiatarbimise ja tarkvaralitsentsimise mõttes, võib esialgne investeering tiheda GPU-serverite valdkonnas olla siiski märkimisväärne. Organisatsioonidel tuleb hinnata selliste lahenduste pikaajalist kulutõhusust ja konkreetseid eeliseid nende AI-koormuste jaoks.
Liqidi UltraStack’i ja Meta VR-projekti eelised:
Suurenenud arvutusvõimsus: UltraStacki tiheda GPU-serverite integreerimine suurendab oluliselt Meta virtuaalreaalsuse uurimisprojekti arvutusvõimsust. See suurenenud võimsus võimaldab komplekssemate ja realistlikumate virtuaalmaastike renderdamist, viies veelgi immersiivsemate VR-elamusteni.
Kulude kokkuhoid: UltraStack pakub kulude kokkuhoidu läbi vähenenud energiatarbimise ja tarkvaralitsentsimise kulude. See võib olla eriti kasulik suurte AI-rakendustega organisatsioonidele, mis nõuavad suure hulga GPU-sid.
Puudused:
Esialgse investeeringu vajadus: UltraStacki ja teiste tiheda GPU baasil valdkonna lahenduste rakendamine nõuab märkimisväärset esialgset investeeringut. Organisatsioonidel tuleb hoolikalt hinnata finantsmõjude ja võimaliku investeeringutasuvuse mõju enne sellise infrastruktuuri vastuvõtmist.
Skalabilisuse piirangud: Kuigi UltraStack lahendab GPU-serverite tiheduse piiranguid, võib suurte AI-koormuste mahutamisel endiselt esineda skalabilisuse väljakutseid. Organisatsioonidel tuleb arvestada tulevase kasvu ja nende AI-infrastruktuuri suurendamise nõuetega.
