Revolutionizing AI-komputering: Liqid sitt UltraStack og Meta sitt VR-prosjekt
Meta (tidlegare Facebook), kjent for si innsats for å ta i bruk toppmoderne teknologiar, har funne ei løysing for deira behov for meir GPU-drevet beregningskraft til deira forskingsprosjekt innan virtuell virkelighet. Prosjektet møtte utfordringar på grunn av IT-bransjens vanlege hinder med låg servertettheit på GPU og tilgjenge. Likevel snudde Meta seg til Liqid, ein pioner innan sammansett desentralisert infrastruktur, for å overvinne desse utfordringane.
Liqid introduserte UltraStack serverløysinga, som har 2U Dell PowerEdge-serverar med opptil 20 NVIDIA L40S GPU-ar. Denne innovative løysinga møter ikkje berre behovet for høg GPU-tettheit, men forbetrar òg ytelsen markant. UltraStack har potensialet til å akselerere framtidige arbeidsmengder og leverer ein imponerande 35 prosent auka ytelse. I tillegg gir den kostnadsbesparingar med ein 35 prosent nedgang i strømforbruk og ein imponerande 75 prosent reduksjon i programvarelisenskostnader samanlikna med serverar med lågare GPU-ytelse.
Vasu Agrawal, ein forskingsingeniør ved Meta, kastar lys over verknaden av Liqid UltraStack med NVIDIA L40S GPU-ar og Dell PowerEdge-serverar i ein video-intervju. Han understrekar korleis denne infrastrukturen har forandra deira VR-prosjekt ved å forbetre bereknekapa og drive signifikante fremskritt.
Den viktigaste fordelen med UltraStack ligg i evna til å sømla koble eit stort tal GPU-ar til ein standardserver. På denne måten handterar han effektivt tre kritiske utfordringar innanfor AI-berekning: kostnad og kompleksitet, tid og ytelse.
For det første eliminerer UltraStack kostnaden og kompleksiteten knytt til utilstrekkeleg GPU-tettheit. Mange AI-implementeringar slit med eit avgrensa tal GPU-ar per server, noko som fører til auka kostnader på straum, kjøling og plass, i tillegg til systemforvaltningsutfordringar. UltraStack løysar denne problemstillinga ved å inkludere opptil 20 GPU-ar per server.
For det andre møter implementeringa av AI-infrastruktur ofte forseinkingar på grunn av den avgrensa tilgjengelegheita av høyytande GPU-ar. Integreringa av umiddelbart tilgjengelege NVIDIA L40S-gpu-ar i UltraStack sikrar rettidig og effektiv implementering.
Til slutt leverer UltraStack eksepsjonell ytelse ved å konsolidere opptil 20 GPU-ar per server. Testresultat som bruker MLPerf 3.1 Inference LLM (Large Language Model) demonstrerte imponerande forespørselar per sekund over ulike domene. Til dømes oppnådde UltraStack med 16x L40S GPU-ar ein imponerande rate på 94 førespurnadar/sek ved ~7 000 W for MLPerf 3.1 Inference LLM. Vidare viste UltraStack si styrke innan Objektdeteksjon, Medisinsk Biletebehandling og Naturspråkbehandling, ved å oppnå henholdsvis 10 104 førespurnadar/sek, 62,6 førespurnadar/sek og 44 730 førespurnadar/sek.
Liqid tilbyr UltraStack både som sjølvstendige og klare serveralternativ. Sjølvstendige serverar har opptil 20 GPU-ar, medan klar-klare serverar inkorporerar opptil 16 L40S GPU-ar, saman med Liqid IO Accelerator NVMe SSD-ar, NVIDIA ConnectX-7 NIC-ar og NVIDIA BlueField-3 DPUs for auka tilknytningsmoglegheiter og effektivitet i komplekse AI-miljø.
Liqid sin UltraStack, saman med Meta si forpliktelse til AI-teknologiadopsjon, signaliserer eit betydeleg sprang framover innan AI-berekning. Ved å adresse kritiske utfordringar og levere eksepsjonell ytelse, opnar UltraStack vegen for akselererte AI-fremskritt og innverknadsrike virtuelle opplevingar.
Ytterlegare relevante fakta til temaet inkluderer:
– Liqid sin UltraStack-serverløysing byggjer på sammansett desentralisert infrastruktur (CDI), som tillèt dynamisk samansetjing og omkonfigurering av berekna, lagrings- og nettverksressursar. CDI gjev organisasjonar moglegheit til å optimalisere ressursfordeling, forbetre fleksibilitet og forenkle infrastrukturnåveret.
– Meta sitt forskingsprosjekt innan virtuell virkelighet har som mål å skapa immersiv opplevingar for brukarar ved å nytte avanserte teknologiar som AI og datasyn. Den auka GPU-berekneverkrafta som UltraStack gir, forbetrar prosjektet si evne til å gjengje realistiske og interaktive virtuelle miljø.
– Samarbeidet mellom Meta og Liqid demonstrerer viktigheten av samarbeid mellom teknologiselskap for å skyve grensene for AI-berekning og virtuell virkelighet. Ved å jobbe saman, var dei i stand til å overvinne utfordringar med eksisterande infrastruktur og drive innovasjon innafor sine respektive felt.
Dei mest vesentlige spørsmåla knytt til temaet er:
1. Korleis samanliknar GPU-tettheiten til UltraStack seg med tradisjonelle serverkonfigurasjonar?
2. Kva spesifikke ytelsesforbetringar er oppnådd med UltraStack innan ulike AI-arbeidsmengder?
3. Korleis addresserer UltraStack utfordringane med kostnad og kompleksitet innan AI-berekning?
4. Kva er dei potensielle bruksområda for den forbetra GPU-bereknearkrafta i Meta sitt forskingsprosjekt innan virtuell virkelighet?
5. Korleis bidreg integreringa av Liqid IO Accelerator NVMe SSD-ar, NVIDIA ConnectX-7 NIC-ar og NVIDIA BlueField-3 DPUs til effektiviteten til klar-klare serverar?
Nøkkelutfordringar eller kontroversar assosiert med temaet inkluderer:
1. Skalering: Mens UltraStack adresserer utfordringane med GPU-tettheit i tradisjonelle serverkonfigurasjonar, kan det å skalere infrastrukturen til å kunne handtere større AI-arbeidsmengder framleis by på utfordringar. Organisasjonar må nøye planleggja infrastrukturimplementeringa og vurdera faktorar som strøm- og kjølekrav.
2. Kostnad: Sjølv om UltraStack tilbyr kostnadsbesparingar med omsyn til strømforbruk og programvarelisens, kan den initiale investeringa i høytett GPU-serverar framleis vera betydeleg. Organisasjonar må evaluera den langsiktige kosteffektiviteten av slike løysingar og dei spesifikke fordelane dei gir for deira AI-arbeidsmengder.
Fordelar med Liqid sin UltraStack og Meta sitt VR-prosjekt:
1. Auka bereknekraft: Integreringa av UltraStack sine serverar med høg tettheit av GPU-ar forbetrar markant bereknekapa til Meta sitt forskingsprosjekt innan virtuell virkelighet. Denne auka krafta gjer det mogleg å gjengje meir komplekse og realistiske virtuelle miljø, noko som leier til meir immersive VR-opplevingar.
2. Kostnadsbesparingar: UltraStack tilbyr kostnadsbesparingar ved redusert strømforbruk og programvarelisenskostnader. Dette kan vera spesielt gunstig for organisasjonar med storstilte AI-implementeringar som krev eit stort tal GPU-ar.
Ulemper:
1. Initiale investeringar: Å implementera UltraStack og liknande høytetts GPU-løysingar krev ein betydeleg initierande investering. Organisasjonar må nøye evaluera økonomiske implikasjonar og mogleg avkasting før dei adopterer slik infrastruktur.
2. Skaleringavgrensingar: Sjølv om UltraStack adresserer problemet med GPU-servertettheit, kan det framleis vera utfordringar med hensyn til skalering når det gjeld å handtere større AI-arbeidsmengder. Organisasjonar må vurdera den framtidige veksten og skaleringstybingar i AI-infrastrukturen deira.
