Oživujeme Cloud Computing s AMD Akcelerátormi

Operátori cloudov špecializujúci sa na riadenie energeticky náročných grafických spracovateľov (GPU) a iných infraštruktúr umelého intelektu sa čoraz častejšie uchyľujú k používaniu AMD akcelerátorov namiesto ponúk od Nvidie.

Jeden takýto operátor, TensorWave, nedávno začal integrovať systémy s novými AMD Instinct MI300X akcelerátormi. Spoločnosť plánuje prenajímať tieto čipy za nižšie ceny v porovnaní s akcelerátormi od Nvidie.

Najnovšie AMD akcelerátory získali významný záujem kvôli ich výhodám. Sú ľahko dostupné na nákup v porovnaní s konkurenčnými produktmi od Nvidie, čo spoločnosti TensorWave poskytuje prístup k veľkému množstvu chipov vďaka ich schopnostiam v oblasti vyjednávania.

Do konca roku 2024 si TensorWave stanovil cieľ inštalovať 20 000 akcelerátorov MI300X vo svojich dvoch zariadeniach. Okrem toho spoločnosť plánuje uvedenie chladenia kvapalným systémom na budúci rok pre zvýšený výkon.

Integrované obvody od AMD sú tiež rýchlejšie než veľmi žiadaný Nvidia H100. MI300X prevyšuje H100 vo špecifikáciách, chváli sa väčšou kapacitou pamäti a prietokom údajov. Bol predstavený počas udalosti AMD Advancing AI v decembri 2024 a údajne je o 32% rýchlejší ako Nvidia H100.

V porovnaní s konkurenčným H100, AMD čip disponuje väčšou kapacitou pamäte v hodnote 192 GB HBM3, čo umožňuje prietok údajov vo veľkosti 5,3 TB/s. Naopak H100 má kapacitu 80 GB a prietok 3,35 TB/s.

Zatiaľ čo AMD akcelerátory získavajú popularitu, niektorí používatelia stále kladú otázky ohľadom ich výkonu v porovnaní s produktmi od Nvidie. TensorWave plánuje nasadiť uzly MI300X s využitím technológie RoCE (RDMA cez konvergované Ethernet) pre zrýchlenie procesov nasadenia.

Dlhodobé plány pre TensorWave zahŕňajú implementáciu pokročilejšieho riešenia riadenia zdrojov, pripojenie až 5 750 GPU a petabajty pamäte s vysokým prietokom údajov pomocou technológie GigaIO v založenej na PCIe 5.0 FabreX. Tento projekt bude financovaný prostredníctvom zabezpečeného kreditu na GPU akcelerátor, metóda používaná aj inými spoločnosťami prevádzkujúcimi dátové centrá.

Podobné iniciatívy boli podniknuté aj ostatnými hráčmi v odvetví, pričom Lambda zabezpečila kredit vo výške 500 miliónov dolárov a CoreWeave získala 2,3 miliardy dolárov na rozširovanie infraštruktúry. TensorWave plánuje oznámiť podobné novinky neskôr v tomto roku.

Pre viac informácií o AMD akcelerátoroch a ich aplikáciách v oblasti umelej inteligencie, navštívte webové sídlo spoločnosti AMD.