Vallankumous AI laskentaan: Liqidin UltraStack ja Metan VR-projekti.
Meta (aiemmin Facebook), tunnettu sitoutumisestaan hyödyntää uusimpia teknologioita, on löytänyt ratkaisun virtuaalitodellisuuden tutkimushankkeensa tarpeisiin tarvittavasta suuremmasta GPU-pohjaisesta laskentatehosta. Hankkeella oli rajoituksia IT-alan yleisten esteiden vuoksi, kuten rajallinen GPU-palvelintiheys ja saatavuus. Kuitenkin Meta kääntyi Liqidin puoleen, joka on uranuurtaja hajautetun infrastruktuurin koostettavuudessa, voittaakseen nämä haasteet.
Liqid esitteli UltraStack-palvelinratkaisun, joka koostuu 2U Dell PowerEdge -palvelimista varustettuna jopa 20 NVIDIA L40S GPU:lla. Tämä innovatiivinen ratkaisu ei ainoastaan vastaa kysyntään korkeasta GPU-tiheydestä, vaan parantaa merkittävästi suorituskykyä. UltraStackilla on potentiaalia kiihdyttää seuraavan sukupolven työmääriä, tarjoten huomattavan 35 prosentin suorituskyvyn lisäyksen. Lisäksi se tarjoaa kustannussäästöjä, joilla on 35 prosentin vähennys energiankulutuksessa ja jopa 75 prosentin alennus ohjelmisto-lisenssikustannuksissa verrattuna palvelimiin, joissa on pienempi GPU-kapasiteetti.
Vasu Agrawal, Meta-yhtiön tutkimusinsinööri, tuo esille Liqid UltraStackin ja NVIDIA L40S GPU:iden sekä Dell PowerEdge -palvelimien vaikutusta heidän VR-hankkeeseensa videohaastattelussa. Hän korostaa, miten tämä infrastruktuuri on muuttanut heidän VR-hankettaan parantamalla laskentatehoa ja ajamalla merkittäviä edistysaskeleita.
UltraStackin avainetuna on sen kyky yhdistää suuri määrä GPU:ita standardipalvelimeen saumattomasti. Tällä tavoin se ratkaisee tehokkaasti kolme kriittistä haastetta tekoälylaskennassa: kustannukset ja monimutkaisuuden, ajan ja suorituskyvyn.
Ensinnäkin UltraStack poistaa kustannukset ja monimutkaisuudet, jotka liittyvät riittämättömään GPU-tiheyteen. Monet tekoälyasennukset kamppailevat rajoitetun määrän GPU:ita per palvelin kanssa, mikä johtaa lisääntyneisiin sähkö-, jäähdytys- ja tilakustannuksiin sekä järjestelmän hallinnollisiin monimutkaisuuksiin. UltraStack kuitenkin ratkaisee tämän ongelman sisällyttämällä jopa 20 GPU:ita per palvelin.
Toiseksi tekoälyn infrastruktuurin toteuttaminen kohtaa usein viivästyksiä korkean suorituskyvyn GPU:iden rajoitetun saatavuuden vuoksi. UltraStackin integrointi helposti saatavilla oleviin NVIDIA L40S GPU:ihin varmistaa ajoissa tapahtuvan ja tehokkaan käyttöönoton.
Viimeiseksi UltraStack tarjoaa poikkeuksellisen suorituskyvyn yhdistämällä jopa 20 GPU:ita per palvelin. Testitulokset MLPerf 3.1 Inference LLM (Large Language Model) -toimeenpanossa osoittivat huomattavia kyselyihin per sekunti -asteita eri aloilla. Esimerkiksi 16x L40S GPU:lla UltraStack saavutti vaikuttavan 94 kyselyä/s ~7 000 W teholla MLPerf 3.1 Inference LLM:llä. Lisäksi UltraStack osoittautui vahvaksi Olioiden Tunnistuksessa, Lääketieteellisessä Kuvantamisessa ja Luonnollisen Kielen Käsittelyssä saavuttaen 10 104 kyselyä/s, 62.6 kyselyä/s ja 44 730 kyselyä/s vastaavasti.
Liqid tarjoaa UltraStackia sekä itsenäisinä että ryhmävalmiina palvelinvaihtoehtoina. Itsenäiset palvelimet sisältävät jopa 20 GPU:ita, kun taas ryhmävalmiit palvelimet sisältävät jopa 16 L40S GPU:ita, Liqid IO Accelerator NVMe SSD:itä, NVIDIA ConnectX-7 NIC:ejä ja NVIDIA BlueField-3 DPU:ita parannetun yhteydenpidon ja tehokkuuden varmistamiseksi monimutkaisissa tekoälyympäristöissä.
Liqidin UltraStack yhdistettynä Meta-yhtiön sitoutumiseen tekoälyteknologian hyväksymiseen merkitsee merkittävää edistysaskelta tekoälylaskennan alalla. Kriittisten haasteiden käsittelemisen ja poikkeuksellisen suorituskyvyn tarjoamisen kautta UltraStack avaa tien kiihdytettyjen tekoälyedistysaskelten ja vaikuttavien virtuaalitodellisuuskokemusten puolesta.
Lisätiedot aiheeseen liittyen:
– Liqidin UltraStack-palvelinratkaisu perustuu hajautettuun koostettavaan infrastruktuuriin (CDI), mikä mahdollistaa laskentaresurssien dynaamisen koostamisen ja uudelleenkonfiguroinnin. CDI mahdollistaa organisaatioille resurssien optimoinnin, joustavuuden parantamisen ja infrastruktuurin hallinnan virtaviivaistamisen.
– Meta-yhtiön virtuaalitodellisuuden tutkimushanke pyrkii luomaan käyttäjille mukaansatempaavia kokemuksia hyödyntämällä edistyneitä teknologioita, kuten tekoälyä ja tietokoneen kuvantamista. UltraStackin tarjoama lisääntynyt GPU-laskentateho parantaa hankkeen kykyä renderöidä realistisia ja vuorovaikutteisia virtuaaliympäristöjä.
– Meta:n ja Liqidin välinen kumppanuus osoittaa teknologiayritysten välisen yhteistyön merkityksen tekoälylaskennan ja virtuaalitodellisuuden rajojen laajentamisessa. Yhdessä työskentelemällä he pystyivät voittamaan olemassa olevan infrastruktuurin rajoitukset ja edistämään innovaatiota omilla aloillaan.
Tärkeimmät aiheeseen liittyvät kysymykset ovat:
1. Kuinka UltraStackin GPU-tiheys vertautuu perinteisiin palvelinkonfiguraatioihin?
2. Mitä erityisiä suorituskyvyn parannuksia saavutetaan UltraStackilla eri tekoälytyömäärissä?
3. Kuinka UltraStack osoittaa kustannuksiin ja monimutkaisuuteen liittyviin haasteisiin tekoälylaskennassa?
4. Mitkä ovat parannellun GPU-laskentatehon potentiaaliset sovellukset Meta:n virtuaalitodellisuustutkimushankkeessa?
5. Kuinka Liqid IO Accelerator NVMe SSD:ien, NVIDIA ConnectX-7 NIC:ien ja NVIDIA BlueField-3 DPU:ien integroiminen vaikuttaa ryhmävalmiiden palvelinten tehokkuuteen?
Avainhaasteet tai kiistakysymykset aiheeseen liittyen ovat:
1. Skaalautuvuus: Vaikka UltraStack käsittelee perinteisen palvelinrakenteen GPU-tiheyden rajoituksia, infrastruktuurin skaalaaminen suurempien tekoälytyömäärien mukaan voi edelleen aiheuttaa haasteita. Organisaatioiden on harkittava huolellisesti infrastruktuurinsa käyttöönottoa ja otettava huomioon tekijät, kuten sähkö- ja jäähdytysvaatimukset.
2. Kustannukset: Vaikka UltraStack tarjoaa kustannussäästöjä energiankulutuksen ja ohjelmistolisensoinnin osalta, suuriarvoisen GPU-palvelimien aloitusinvestointi voi vielä olla merkittävä. Organisaatioiden on arvioitava tarkasti tällaisten ratkaisujen pitkän aikavälin kustannustehokkuutta ja niiden tarjoamia etuja heidän tekoälytyökuormilleen.
Liqidin UltraStackin ja Meta:n virtuaalitodellisuushankkeen edut:
1. Lisätty laskentateho: UltraStackin suuritiheisten GPU-palvelinten integrointi parantaa huomattavasti Meta:n virtuaalitodellisuushankkeen laskentatehoa. Tämä lisääntynyt teho mahdollistaa monimutkaisempien ja realistisempien virtuaaliympäristöjen renderöinnin, mikä johtaa syvällisempiin VR-kokemuksiin.
2. Kustannussäästöt: UltraStack tarjoaa kustannussäästöjä vähentyneen energiankulutuksen ja ohjelmistolisensoinnin kustannusten kautta. Tämä voi olla erityisen hyödyllistä organisaatioille, joilla on laajamittaisia tekoälylaskentatoimintoja, jotka vaativat suuren määrän GPU:ita.
Haittapuolet:
1. Alkuperäiset investoinnit: UltraStackin ja vastaavien suuritiheisten GPU-ratkaisujen käyttöönotto vaatii merkittävän alkuinvestoinnin. Organisaatioiden on arvioitava huolellisesti taloudelliset vaikutukset ja mahdollinen sijoitetun pääoman tuotto ennen tällaisen infrastruktuurin hyväksymistä.
2. Skaalautuvuuden rajoitukset: Vaikka UltraStack käsittelee GPU-palvelintiheyden rajoituksia, voi olla skaalautuvuushaasteita isompien tekoälytyömäärien käsittelyssä. Organisaatioiden on harkittava tulevaa kasvua ja skaalautuvuusvaatimuksia tekoälyinfrastruktuurinsa suhteen.
