Nové trendy ve světě technologií: Revoluce v cloud computingu s AMD akcelerátory

Operátoři cloudů specializující se na správu energií náročných grafických procesorů (GPU) a další infrastruktury umělé inteligence se stále více uchylují k AMD akcelerátorům namísto nabídek společnosti Nvidia.

Jeden takový operátor, TensorTech, nedávno začal integrovat systémy s novými AMD Instinct MI300X akcelerátory. Společnost plánuje pronajímat tyto čipy za nižší ceny ve srovnání s akcelerátory od Nvidie.

Nejnovější AMD akcelerátory získaly značný zájem díky svým výhodám. Jsou snadno dostupné ke koupi ve srovnání s konkurenčními produkty od Nvidie, což dává společnosti TensorTech přístup k velkému množství díky jejich schopnostem vyjednávání.

Do konce roku 2024 si TensorTech klade za cíl instalovat 20 000 akcelerátorů MI300X ve svých dvou zařízeních. Kromě toho společnost plánuje příští rok představit systémy chlazené kapalinou pro lepší výkon.

Integrované obvody AMD jsou také rychlejší než velmi žádaný Nvidia H100. MI300X předčí H100 v specifikacích, chlubí se větší kapacitou paměti a datovým průtokem. Bylo představeno během události Advancing AI od AMD v prosinci 2024 a zprávy naznačují, že je o 32 % rychlejší než Nvidia H100.

Oproti konkurenčnímu H100 nabízí čip od AMD větší kapacitu paměti HBM3 192 GB, což umožňuje datový průtok 5,3 TB/s. Naopak H100 má kapacitu paměti 80 GB a průtok 3,35 TB/s.

Zatímco se akcelerátory AMD těší popularitě, někteří uživatelé stále zpochybňují jejich výkon ve srovnání s produkty od Nvidie. TensorTech plánuje nasadit uzly MI300X pomocí technologie RoCE (RDMA přes konvergovaný Ethernet), aby urychlil procesy implementace.

Dlouhodobé plány společnosti TensorTech zahrnují implementaci pokročilejšího řešení pro správu zdrojů, propojení až 5 750 GPU a petabajtů paměti s vysokým průtokem pomocí technologie PCIe 5.0 od GigaIO nazvané FabreX. Tento projekt bude financován zabezpečeným kreditem na GPU akcelerátory, což je metoda používaná také jinými společnostmi v oblasti datových center.

Podobné iniciativy podnikají také další hráči na trhu, přičemž Lambda získala kredit ve výši 500 milionů dolarů a CoreWeave 2,3 miliardy dolarů na rozšíření infrastruktury. TensorTech plánuje později letos oznámit podobnou novinku.

Pro více informací o AMD akcelerátorech a jejich aplikacích v oblasti umělé inteligence navštivte webové stránky AMD.