Arthur Herring
Meta (dawniej Facebook), znane z zaangażowania w przyjmowanie najnowszych technologii, znalazło rozwiązanie na potrzeby swojego projektu badawczego w dziedzinie wirtualnej rzeczywistości, które wymaga większej mocy obliczeniowej wspieranej przez GPU. Projekt napotykał ograniczenia związane z powszechnymi przeszkodami branży IT, takimi jak ograniczona gęstość i dostępność serwerów GPU. Jednak Meta zwróciła się o pomoc do Liqid, pioniera w dziedzinie infrastruktury zdekomponowanej w modelu composable, aby przezwyciężyć te wyzwania.
Liqid wprowadził rozwiązanie serwerowe UltraStack, zawierające serwery Dell PowerEdge o rozmiarze 2U, wyposażone w nawet 20 GPU NVIDIA L40S. To innowacyjne rozwiązanie nie tylko spełnia zapotrzebowanie na wysoką gęstość GPU, ale także znacząco poprawia wydajność. UltraStack ma potencjał do przyspieszenia obciążeń następnej generacji, oferując im imponujący wzrost wydajności o 35 procent. Dodatkowo, towarzyszą mu oszczędności finansowe dzięki obniżeniu zużycia energii o 35 procent i oszałamiającemu zmniejszeniu kosztów licencjonowania oprogramowania o 75 procent w porównaniu do serwerów o niższej pojemności GPU.
Vasu Agrawal, inżynier badawczy w Meta, rzucił światło na wpływ Liqid UltraStack z GPU NVIDIA L40S i serwerów Dell PowerEdge w wideointerwju. Podkreślił, jak ta infrastruktura odmieniła ich projekt wirtualnej rzeczywistości, poprawiając zdolności obliczeniowe i generując znaczące postępy.
Główną zaletą UlrtraStack jest możliwość płynnego połączenia dużej liczby GPU z zwykłym serwerem. W ten sposób efektywnie radzi sobie z trzema krytycznymi wyzwaniami w obliczeniach AI: kosztami i złożonością, czasem oraz wydajnością.
Po pierwsze, UltraStack eliminuje koszty i złożoność związane z niewystarczającą gęstością GPU. Wiele wdrożeń AI boryka się z ograniczoną liczbą GPU na serwerze, co prowadzi do wzrostu kosztów energii, chłodzenia, miejsca oraz złożoności zarządzania systemem. UltraStack rozwiązuje ten problem, oferując aż 20 GPU na serwerze.
Po drugie, implementacja infrastruktury AI często napotyka opóźnienia z powodu ograniczonej dostępności wydajnych GPU. Integracja dostępnych bez problemu GPU NVIDIA L40S przez UltraStack zapewnia terminowe i efektywne wdrożenie.
Na koniec, UltraStack dostarcza wyjątkową wydajność, konsolidując aż 20 GPU na serwerze. Wyniki testów z użyciem MLPerf 3.1 Inference LLM (Large Language Model) wykazały imponujące wyniki przeprowadzanych zapytań na sekundę w różnych dziedzinach. Na przykład, przy użyciu 16 GPU L40S, UltraStack osiągnął imponujące 94 zapytania/s przy ~7000 W dla MLPerf 3.1 Inference LLM. Ponadto, UltraStack wykazał swoje umiejętności w Detekcji Obiektów, Obrazowaniu Medycznym i Obrobce Języka Naturalnego, osiągając odpowiednio 10 104 zapytań/s, 62,6 zapytań/s i 44 730 zapytań/s.
Liqid oferuje UltraStack w opcjach serwerów samodzielnych i gotowych do zgrupowania. Serwery samodzielne mieszczą do 20 GPU, podczas gdy serwery gotowe do grupowania zawierają do 16 GPU L40S, wraz z dyskami SSD Liqid IO Accelerator NVMe, kartami sieciowymi NVIDIA ConnectX-7 NICs i procesorami BlueField-3 DPUs NVIDIA do zwiększenia łączności i efektywności w skomplikowanych środowiskach AI.
UltraStack Liqid, połączony z zaangażowaniem Meta w przyjmowanie technologii AI, sygnalizuje znaczący postęp w dziedzinie obliczeń AI. Poprzez rozwiązanie kluczowych wyzwań i dostarczenie wyjątkowej wydajności, UltraStack toruje drogę do przyspieszonych postępów w dziedzinie AI i znaczących doświadczeń wirtualnej rzeczywistości.
Dodatkowe fakty związane z tematem obejmują:
– Rozwiązanie serwerowe UltraStack Liqid oparte jest na infrastrukturze zdekomponowanej w modelu composable (CDI), która pozwala na dynamiczną kompozycję i rekonfigurację zasobów obliczeniowych, pamięci masowej oraz sieciowych. CDI umożliwia organizacjom optymalizację alokacji zasobów, zwiększenie elastyczności i usprawnienie zarządzania infrastrukturą.
– Projekt badawczy Meta w dziedzinie wirtualnej rzeczywistości ma na celu stworzenie immersive doświadczeń dla użytkowników, wykorzystując zaawansowane technologie takie jak AI i wykrywanie komputerowe. Zwiększona moc obliczeniowa GPU dostarczana przez UltraStack wzmacnia zdolność projektu do renderowania realistycznych i interaktywnych środowisk wirtualnych.
– Partnerstwo między Metą i Liqid pokazuje znaczenie współpracy między firmami technologicznymi w posuwaniu granic obliczeń AI i wirtualnej rzeczywistości. Dzięki wspólnej pracy udało im się pokonać ograniczenia istniejącej infrastruktury i napędzić innowacje w swoich dziedzinach.
Najważniejsze pytania związane z tematem to:
1. Jak gęstość GPU UltraStack porównuje się z tradycyjnymi konfiguracjami serwerów?
2. Jakie konkretne ulepszenia wydajności osiągnięto dzięki UltraStack w różnych obciążeniach AI?
3. W jaki sposób UltraStack radzi sobie z wyzwaniami kosztów i złożoności w obliczeniach AI?
4. Jakie są potencjalne zastosowania zwiększonej mocy obliczeniowej GPU w projekcie badawczym wirtualnej rzeczywistości Meta?
5. W jaki sposób integracja Liqid IO Accelerator NVMe SSDs, NVIDIA ConnectX-7 NICs i NVIDIA BlueField-3 DPUs przyczynia się do efektywności serwerów gotowych do grupowania?
Główne wyzwania i kontrowersje związane z tematem obejmują:
1. Skalowalność: Mimo że UltraStack rozwiązuje ograniczenia gęstości GPU w tradycyjnych konfiguracjach serwerów, skalowanie infrastruktury w celu dostosowania się do większych obciążeń AI może wciąż stanowić wyzwanie. Organizacje muszą starannie planować wdrożenie infrastruktury i brać pod uwagę czynniki takie jak wymagania dotyczące mocy i chłodzenia.
2. Koszt: Pomimo że UltraStack oferuje oszczędności finansowe w postaci obniżenia zużycia energii i kosztów licencjonowania oprogramowania, początkowe inwestycje w serwery z dużą gęstością GPU mogą nadal być znaczące. Organizacje muszą ocenić długoterminową opłacalność takich rozwiązań oraz konkretne korzyści, jakie przynoszą dla ich obciążeń AI.
Korzyści UltraStack Liqid i Projektu VR Meta:
1. Zwiększona moc obliczeniowa: Integracja wysoko-gęstościowych serwerów GPU UltraStack znacząco wzmacnia zdolności obliczeniowe projektu badawczego wirtualnej rzeczywistości Meta. Ta zwiększona moc pozwala na renderowanie bardziej złożonych i realistycznych środowisk wirtualnych, co prowadzi do bardziej immersyjnych doświadczeń wirtualnej rzeczywistości.
2. Oszczędności finansowe: UltraStack oferuje oszczędności finansowe poprzez obniżenie zużycia energii i kosztów licencjonowania oprogramowania. Może to być szczególnie korzystne dla organizacji z dużymi wdrożeniami AI, które wymagają dużej liczby GPU.
Wady:
1. Początkowe inwestycje: Wdrożenie UltraStack i podobnych rozwiązań z dużą gęstością GPU wymaga znaczącej początkowej inwestycji. Organizacje muszą starannie ocenić implikacje finansowe i potencjalną rentowność przed przyjęciem takiej infrastruktury.
2. Ograniczenia skalowalności: Mimo że UltraStack rozwiązuje ograniczenia gęstości serwera GPU, nadal mogą występować wyzwania skalowania, gdy chodzi o dostosowanie się do większych obciążeń AI. Organizacje muszą wziąć pod uwagę przyszły wzrost i wymagania skalowalności swojej infrastruktury AI.
