Átforradja a felhőszámítást az AMD gyorsítók

Felhőszolgáltatók, akik speciálisan foglalkoznak energiaigényes grafikus feldolgozó egységekkel (GPU-kkal) és más mesterséges intelligencia infrastruktúrákkal, egyre inkább az AMD gyorsítók felé fordulnak a Nvidia kínálatával szemben.

Az egyik ilyen szolgáltató, a TensorWave, nemrég elkezdte integrálni rendszereit az új AMD Instinct MI300X gyorsítókkal. A vállalat tervezi, hogy ezeket a chipeket alacsonyabb áron bérelni tudja, mint a Nvidia gyorsítókat.

Az AMD legújabb gyorsítói jelentős érdeklődést váltottak ki előnyeiknek köszönhetően. Ezek könnyen beszerezhetőek a vásárláshoz a Nvidia konkurens termékeihez képest, amelynek köszönhetően a TensorWave hozzáfér egy nagy mennyiséghez tárgyalási ügyességük révén.

A TensorWave célul tűzte ki, hogy 2024 végére 20 000 MI300X gyorsítót telepítenek két létesítményükben. Emellett a vállalat tervezi, hogy jövőre bevezetik a folyadékhűtéses rendszereket a megnövelt teljesítmény érdekében.

Az AMD integrált áramkörök is gyorsabbak, mint a nagy keresletnek örvendő Nvidia H100. Az MI300X képes túlszárnyalni a H100-at a specifikációkban, nagyobb memóriakapacitással és adatátvitellel. A chipe a 2024-es decemberi AMD Advancing AI eseményén debütált és állítólag 32%-kal gyorsabb a Nvidia H100-nál.

A rivális H100-hoz képest az AMD chipje nagyobb, 192 GB-os HBM3 memóriakapacitással rendelkezik, amely 5,3 TB/s adatátvitelt tesz lehetővé. Ezzel szemben a H100 csak 80 GB memóriakapacitással és 3,35 TB/s átviteli sebességgel rendelkezik.

Bár az AMD gyorsítók egyre népszerűbbek, néhány felhasználó kétségbe vonja teljesítményüket a Nvidia termékeivel összehasonlítva. A TensorWave tervezi, hogy a RoCE (RDMA a Konvergens Etherneten keresztül) technológiát alkalmazza MI300X node-ok telepítéséhez a folyamatok felgyorsítása érdekében.

A TensorWave hosszú távú tervei magukban foglalják egy fejlettebb erőforráskezelési megoldás bevezetését, amely során akár 5750 GPU-t és petabájtok számára tervezett nagyáteresztő képességű memóriát csatlakoztatnának a GigaIO PCIe 5.0-s FabreX technológián keresztül. Ez a projekt biztosított GPU gyorsító hitellel lesz finanszírozva, amelyet más adatközponti vállalatok is alkalmaznak.

Hasonló kezdeményezéseket indítottak meg más ipari szereplők is, a Lambda például egy 500 millió dolláros hitelt szerzett, míg a CoreWeave 2,3 milliárd dollárt kaphat infrastruktúra bővítésre. A TensorWave szándékozik hasonló híreket bejelenteni még idén.

További információkért az AMD gyorsítókról és alkalmazásaikról az mesterséges intelligencia területén, látogasson el az AMD weboldalára.