Revoluționarea calculului AI: UltraStack de la Liqid și proiectul VR al Meta
Meta (fostul Facebook), cunoscută pentru dedicarea sa în adoptarea tehnologiilor de vârf, a găsit o soluție pentru necesitatea proiectului său de cercetare în realitate virtuală de a avea mai multă putere de calcul bazată pe GPU. Proiectul se confrunta cu limitări datorită blocajelor comune din industria IT, cum ar fi densitatea și disponibilitatea limitată a serverelor GPU. Cu toate acestea, Meta s-a întors către Liqid, un pionier în infrastructura compozabilă dezagregată, pentru a depăși aceste provocări.
Liqid a introdus soluția serverului UltraStack, care include servere Dell PowerEdge de 2U echipate cu până la 20 GPU-uri NVIDIA L40S. Această soluție inovatoare nu numai că satisface cererea de densitate mare a GPU-ului, dar îmbunătățește semnificativ și performanța. UltraStack are potențialul de a accelera sarcinile de lucru de generație viitoare, oferind o creștere remarcabilă a performanței de 35%. În plus, oferă economii de costuri cu o reducere a consumului de energie de 35% și o reducere impresionantă a costurilor de licențiere software cu 75% în comparație cu serverele cu capacități mai mici de GPU.
Vasu Agrawal, inginer de cercetare la Meta, evidențiază impactul Liqid UltraStack cu GPU-urile NVIDIA L40S și serverele Dell PowerEdge într-un interviu video. El subliniază modul în care această infrastructură a transformat proiectul lor de RV prin îmbunătățirea capacităților de calcul și promovarea unor avansuri semnificative.
Avantajul cheie al UltraStack constă în capacitatea sa de a conecta fără probleme un număr mare de GPU-uri la un server standard. Prin aceasta, abordează eficient trei provocări critice în calculul AI: costul și complexitatea, timpul și performanța.
În primul rând, UltraStack elimină costul și complexitatea asociate cu densitatea insuficientă a GPU-urilor. Multe implementări AI se luptă cu un număr limitat de GPU-uri pe server, ceea ce duce la creșterea costurilor de energie, răcire și spațiu, precum și la complexități de gestionare a sistemului. Cu toate acestea, UltraStack rezolvă această problemă prin includerea a până la 20 de GPU-uri pe server.
În al doilea rând, implementarea infrastructurii AI se confruntă adesea cu întârzieri din cauza disponibilității limitate a GPU-urilor de înaltă performanță. Integrarea GPU-urilor NVIDIA L40S disponibile rapid asigură o implementare oportună și eficientă.
În cele din urmă, UltraStack oferă performanțe excepționale prin consolidarea a până la 20 de GPU-uri pe server. Rezultatele testelor folosind MLPerf 3.1 Inference LLM (Large Language Model) au demonstrat rate remarcabile de interogare pe secundă pe diverse domenii. De exemplu, cu 16 GPU-uri L40S, UltraStack a obținut o valoare impresionantă de 94 de interogări/sec la ~7,000W pentru MLPerf 3.1 Inference LLM. În plus, UltraStack a arătat îndemânarea sa în Detectarea Obiectelor, Imagistica Medicală și Procesarea Limbajului Natural, obținând 10,104 interogări/sec, 62.6 interogări/sec și 44,730 interogări/sec, respectiv.
Liqid oferă UltraStack atât în opțiuni de servere independente, cât și pregătite pentru cluster. Serverele independente găzduiesc până la 20 de GPU-uri, în timp ce serverele pregătite pentru cluster includ până la 16 GPU-uri L40S, împreună cu SSD-urile Liqid IO Accelerator NVMe, NIC-urile NVIDIA ConnectX-7 și DPU-urile NVIDIA BlueField-3 pentru o conectivitate îmbunătățită și eficiență în medii AI complexe.
UltraStack de la Liqid, împreună cu angajamentul Meta față de adoptarea tehnologiei AI, semnalează un salt semnificativ în domeniul calculului AI. Prin abordarea provocărilor cruciale și furnizarea de performanțe excepționale, UltraStack deschide calea pentru progrese accelerate în AI și experiențe virtuale impactante.
Fapte suplimentare relevante pentru subiect includ:
– Soluția serverului UltraStack de la Liqid se bazează pe infrastructura compozabilă dezagregată (CDI), care permite compunerea și reconfigurarea dinamică a resurselor de calcul, stocare și rețea. CDI permite organizațiilor să-și optimizeze alocarea resurselor, să îmbunătățească flexibilitatea și să simplifice gestionarea infrastructurii.
– Proiectul de cercetare în realitate virtuală al Meta își propune să creeze experiențe imersive pentru utilizatori prin valorificarea tehnologiilor avansate precum AI și viziunea computerizată. Puterea sporită de calcul a GPU-ului furnizată de UltraStack îmbunătățește abilitatea proiectului de a reda medii virtuale realiste și interactive.
– Parteneriatul dintre Meta și Liqid demonstrează importanța colaborării între companiile de tehnologie pentru a împinge limitele calculului AI și ale realității virtuale. Lucrând împreună, au reușit să depășească limitările infrastructurii existente și să stimuleze inovația în domeniile respective.
Cele mai importante întrebări legate de subiect sunt:
1. Cum se compară densitatea GPU-urilor UltraStack cu configurațiile tradiționale de servere?
2. Ce îmbunătățiri specifice în performanță s-au obținut cu UltraStack în diferite sarcini de lucru AI?
3. Cum abordează UltraStack provocările de cost și complexitate în calculul AI?
4. Care sunt aplicațiile potențiale ale puterii sporite de calcul a GPU-ului în proiectul de cercetare în realitate virtuală al Meta?
5. Cum contribuie integrarea SSD-urilor Liqid IO Accelerator NVMe, NIC-urilor NVIDIA ConnectX-7 și DPU-urilor NVIDIA BlueField-3 la eficiența serverelor pregătite pentru cluster?
Provocările cheie sau controversele asociate cu subiectul includ:
1. Scalabilitate: Deși UltraStack abordează limitările densității GPU-urilor în configurațiile tradiționale de servere, scalarea infrastructurii pentru a se adapta la sarcini de lucru AI mai mari ar putea încă reprezenta provocări. Organizațiile ar putea trebui să își planifice cu atenție implementarea infrastructurii și să ia în considerare factori precum cerințele de energie și răcire.
2. Cost: Deși UltraStack oferă economii de costuri în ceea ce privește consumul de energie și costurile de licențiere software, investiția inițială în servere cu GPU-uri de densitate mare poate fi încă semnificativă. Organizațiile trebuie să evalueze eficiența pe termen lung a unor astfel de soluții și beneficiile specifice pe care le oferă pentru sarcinile lor de lucru AI.
Avantajele UltraStack-ului de la Liqid și ale proiectului de RV al Meta:
1. Putere de calcul crescută: Integrarea serverelor UltraStack cu GPU-uri de densitate mare îmbunătățește semnificativ capacitățile de calcul ale proiectului de cercetare în realitate virtuală al Meta. Această putere sporită permite redarea unor medii virtuale mai complexe și realiste, ducând la experiențe VR mai imersive.
2. Economii de costuri: UltraStack oferă economii de costuri prin reducerea consumului de energie și costurile de licențiere software. Acest lucru poate fi deosebit de benefic pentru organizațiile cu implementări AI la scară largă care necesită un număr mare de GPU-uri.
Dezavantaje:
1. Investiția inițială: Implementarea UltraStack și a soluțiilor similare cu GPU-uri de densitate mare necesită o investiție inițială semnificativă. Organizațiile trebuie să evalueze cu atenție consecințele financiare și potențialul de rentabilitate înainte de a adopta o astfel de infrastructură.
2. Limitări de scalabilitate: Deși UltraStack abordează limitările densității serverelor GPU, ar putea exista totuși provocări de scalabilitate în ceea ce privește adaptarea la sarcini de lucru AI mai mari. Organizațiile trebuie să ia în considerare creșterea și cerințele de scalabilitate viitoare ale infrastructurii lor AI.
