Mullistava tekoälyn laskenta: Liqidin UltraStack ja Metan VR-projekti
Meta (entinen Facebook), tunnettu sitoutumisestaan ottamaan käyttöön uusinta teknologiaa, on löytänyt ratkaisun virtuaalitodellisuustutkimushankkeensa tarpeeseen suuremmasta GPU-ohjatusta laskentatehosta. Hankkeella oli rajoituksia IT-alan yleisten esteiden takia, kuten rajoitettu GPU-palvelin tiheys ja saatavuus. Kuitenkin Meta kääntyi Liqidin puoleen, joka on edelläkävijä hajautetun infrastruktuurin yhdistämisessä, voittaakseen nämä haasteet.
Liqid esitteli UltraStack-palvelinratkaisun, joka sisältää 2U Dell PowerEdge -palvelimet, joissa on jopa 20 NVIDIA L40S GPU:ta. Tämä innovatiivinen ratkaisu vastaa korkeaan GPU-tiheyden kysyntään, parantaen merkittävästi suorituskykyä. UltraStackilla on potentiaalia kiihdyttää seuraavan sukupolven työmääriä, tarjoten huomattavan 35 prosentin suorituskyvyn parannuksen. Lisäksi se tarjoaa kustannussäästöjä 35 prosentin vähennyksen sähkönkulutuksessa ja jopa 75 prosentin vähennyksen ohjelmistolisensointikustannuksissa verrattuna palvelimiin, joissa on pienempi GPU-kapasiteetti.
Vasu Agrawal, Meta-yhtiön tutkimusinsinööri, valaisee Liqid UltraStackin vaikutusta NVIDIA L40S GPU:lla ja Dell PowerEdge -palvelimilla videohaastattelussa. Hän korostaa, miten tämä infrastruktuuri on muuttanut heidän VR-hankettaan parantamalla laskentatehoa ja aikaansaamalla merkittäviä edistysaskeleita.
UltraStackin tärkein etu piilee sen kyvyssä yhdistää suuri määrä GPU:ta tavalliseen palvelimeen saumattomasti. Näin se ratkaisee tehokkaasti kolme keskeistä haastetta tekoälylaskennassa: kustannukset ja monimutkaisuus, aika ja suorituskyky.
Ensinnäkin UltraStack poistaa kustannukset ja monimutkaisuuden, jotka liittyvät riittämättömään GPU-tiheyteen. Monet tekoälyn käyttöönotot kamppailevat rajoitetun määrän GPU:ja palvelinta kohden, mikä johtaa lisääntyneisiin sähkö-, jäähdytys- ja tilakustannuksiin, sekä järjestelmänhallinnan monimutkaisuuksiin. UltraStack ratkaisee tämän ongelman sisällyttämällä jopa 20 GPU:ta palvelinta kohti.
Toiseksi tekoälyinfrastruktuurin toteuttamisessa kohtaamaan viivästykset johtuvat usein korkeatehoisten GPU:jen rajoitetusta saatavuudesta. UltraStackin käyttöönottoon sisältyy heti saatavilla olevan NVIDIA L40S GPU:n integrointi, varmistaen ajoissa tapahtuvan ja tehokkaan käyttöönoton.
Lopuksi UltraStack tarjoaa poikkeuksellisen suorituskyvyn konsolidoimalla jopa 20 GPU:ta palvelinta kohti. Testitulokset MLPerf 3.1 Inference LLM:llä (Large Language Model) osoittivat huomattavia kyselyjä sekunnissa eri aloilla. Esimerkiksi 16x L40S GPU:lla UltraStack saavutti vaikuttavan 94 kyselyä/s nopeudella ~7,000 W kohti MLPerf 3.1 Inference LLM:ssä. Lisäksi UltraStack osoitti taituruutensa esineiden tunnistuksessa, lääketieteellisessä kuvantamisessa ja luonnollisen kielen käsittelyssä, saavuttaen vastaavasti 10,104 kyselyä/s, 62.6 kyselyä/s ja 44,730 kyselyä/s.
Liqid tarjoaa UltraStackia sekä itsenäisissä että ryhmävalmiissa palvelinvaihtoehdoissa. Itsenäiset palvelimet voivat sisältää jopa 20 GPU:ta, kun taas ryhmävalmiit palvelimet sisältävät jopa 16 L40S GPU:ta, Liqid IO Accelerator NVMe SSD:itä, NVIDIA ConnectX-7 NIC:ejä ja NVIDIA BlueField-3 DP:itä, joilla parannetaan yhteyksiä ja tehokkuutta monimutkaisissa tekoälyympäristöissä.
Liqidin UltraStackin ja Metan sitoutumisen tekoälyteknologian käyttöönottoon viestivät merkittävästä edistysaskeleesta tekoälylaskennan alalla. Keskeisten haasteiden käsittelemisen ja poikkeuksellisen suorituskyvyn tarjoamisen kautta UltraStack avaa tien kiihdytettyihin tekoälyedistysaskeleisiin ja vaikuttaviin virtuaalitodellisuuskokemuksiin.
Aiheeseen liittyvät lisätiedot:
1. Liqidin UltraStack-palvelinratkaisu perustuu hajautettuun infrastruktuurin yhdistämiseen (CDI), mikä mahdollistaa laskennan, tallennuksen ja verkkojen resurssien dynaamisen koostamisen ja uudelleen määrityksen. CDI mahdollistaa organisaatioiden resurssien optimoinnin, joustavuuden parantamisen ja infrastruktuurin hallinnan virtaviivaistamisen.
2. Metan virtuaalitodellisuustutkimushanke pyrkii luomaan käyttäjille immersiivisiä kokemuksia hyödyntämällä edistyneitä teknologioita, kuten tekoälyä ja tietokonetomintaa. UltraStackin tarjoama lisätty GPU-laskentateho parantaa hankkeen kykyä renderöidä realistisia ja vuorovaikutteisia virtuaaliympäristöjä.
3. Metan ja Liqidin kumppanuus osoittaa teknologiayritysten yhteistyön tärkeyden tekoälylaskennan ja virtuaalitodellisuuden rajojen laajentamisessa. Yhdessä työskentelemällä he pystyivät voittamaan olemassa olevan infrastruktuurin rajoitukset ja ajamaan innovaatioita omilla aloillaan.
Tärkeimmät aiheeseen liittyvät kysymykset ovat:
1. Miten UltraStackin GPU-tiheys vertautuu perinteisiin palvelinkonfiguraatioihin?
2. Minkälaisia tarkkoja suorituskyvyn parannuksia saavutettiin UltraStackilla eri tekoälytyömäärissä?
3. Miten UltraStack käsittelee kustannuksiin ja monimutkaisuuteen liittyviä haasteita tekoälylaskennassa?
4. Mihin Meta:n virtuaalitodellisuustutkimushankkeen parannetun GPU-laskentatehon sovellusmahdollisuuksiin kuuluu?
5. Miten Liqid IO Accelerator NVMe SSD:in, NVIDIA ConnectX-7 NIC:in ja NVIDIA BlueField-3 DP:in integrointi vaikuttaa ryhmävalmiiden palvelimien tehokkuuteen?
Avainhaasteet ja kiistakysymykset aiheeseen liittyen ovat:
1. Laajennettavuus: Vaikka UltraStack käsittelee perinteisten palvelinkonfiguraatioiden GPU-tiheyden rajoitukset, infrastruktuurin skaalaaminen suurempien tekoälytyömäärien käsittelyyn saattaa silti aiheuttaa haasteita. Organisaatioiden on suunniteltava infrastruktuurinsa toteutus huolellisesti ja otettava huomioon tekijät kuten sähkön ja jäähdytyksen tarve.
2. Kustannukset: Vaikka UltraStack tarjoaa säästöjä sähkönkulutuksen ja ohjelmistolisensointikustannusten osalta, korkeatiheyksisten GPU-palvelimien alkuinvestointi voi silti olla merkittävä. Organisaatioiden on arvioitava tällaisten ratkaisujen pitkäaikainen kustannustehokkuus ja ne erityiset hyödyt, joita ne tarjoavat heidän tekoälytyömäärilleen.
Edut Liqidin UltraStackille ja Metan VR-hankkeelle:
1. Lisääntynyt laskentateho: UltraStackin korkeatiheyksisten GPU-palvelimien integrointi parantaa merkittävästi Metan virtuaalitodellisuustutkimushankkeen laskentakykyjä. Tämä lisääntynyt teho mahdollistaa monimutkaisten ja realististen virtuaaliympäristöjen renderöinnin, johtaen immersiivisempiin VR-kokemuksiin.
2. Kustannussäästöt: UltraStack tarjoaa kustannussäästöjä vähentämällä sähkönkulutusta ja ohjelmistolisensointikustannuksia. Tämä voi olla erityisen hyödyllistä organisaatioille, joilla on laajamittaisia tekoälykäyttöönottoja, jotka vaativat suuren määrän GPU:ta.
Haitat:
1. Alkuinvestointi: UltraStackin ja vastaavien korkeatiheyksisten GPU-ratkaisujen käyttöönotto vaatii merkittävän alkuinvestoinnin. Organisaatioiden on arvioitava huolellisesti taloudelliset vaikutukset ja mahdollinen sijoitetun pääoman tuotto ennen tällaisen infrastruktuurin hyväksymistä.
2. Laajennettavuusrajoitukset: Vaikka UltraStack käsittelee GPU-palvelin tiheyden rajoitukset, skaalautuvuuden haasteita voi silti syntyä suurempien tekoälytyömäärien käsittelyssä. Organisaatioiden on otettava huomioon heidän tekoälyinfrastruktuurinsa tuleva kasvu ja skaalautuvuusvaatimukset.
