Annabelle Stephenson
Operateri oblaka specijalizovani za upravljanje energetski zahtevnim grafičkim procesorima (GPU) i drugim infrastrukturama veštačke inteligencije sve više se okreću AMD akceleratorima umesto Nvidia ponuda.
Jedan od takvih operatera, TensorWave, nedavno je počeo da integriše sisteme sa novim AMD Instinct MI300X akceleratorima. Kompanija planira da iznajmljuje ove čipove po nižim cenama u poređenju sa Nvidia akceleratorima.
Najnoviji AMD akceleratori su privukli značajnu pažnju zbog svojih prednosti. Lako su dostupni za kupovinu u poređenju sa konkurentskim proizvodima Nvidie, što daje TensorWave-u pristup velikoj količini zahvaljujući njihovim pregovaračkim veštinama.
Do kraja 2024. godine, TensorWave planira da instalira 20.000 MI300X akceleratora u svoje dve instalacije. Pored toga, kompanija planira da uvede sisteme sa tečnim hlađenjem naredne godine radi poboljšane performanse.
AMD integrisani kola su takođe brži od veoma traženog Nvidia H100. MI300X nadmašuje H100 po specifikacijama, ističući veći kapacitet memorije i protok podataka. Predstavljen je na AMD-ovom događaju Advancing AI u decembru 2024. godine i navodi se da je 32% brži od Nvidia H100.
U poređenju sa rivalnim H100, AMD čip ima veći kapacitet memorije od 192 GB HBM3, omogućavajući protok podataka od 5.3 TB/s. Za razliku od toga, H100 ima kapacitet memorije od 80 GB i protok podataka od 3.35 TB/s.
I dok AMD akceleratori postaju sve popularniji, neki korisnici i dalje postavljaju pitanja o njihovim performansama u poređenju sa Nvidia proizvodima. TensorWave planira da implementira MI300X čvorove koristeći RoCE (RDMA preko konvergirane Ethernet) tehnologiju kako bi ubrzao procese implementacije.
Dugoročni planovi za TensorWave uključuju implementaciju naprednijeg rešenja za upravljanje resursima, povezivanje do 5.750 GPU-a i petabajta visokopropusne memorije koristeći GigaIO-ovu PCIe 5.0 baziranu FabreX tehnologiju. Ovaj projekat će biti finansiran putem osiguranog GPU akcelerator kredita, metode koju koriste i druge kompanije u oblasti data centara.
Slične inicijative preduzimaju i drugi igrači u industriji, pri čemu je Lambda obezbedila kredit od 500 miliona dolara, a CoreWeave 2.3 milijarde dolara za proširenje infrastrukture. TensorWave namerava da objavi slične vesti kasnije ove godine.
Za više informacija o AMD akceleratorima i njihovoj primeni u veštačkoj inteligenciji, posetite AMD sajt.
Često Postavljana Pitanja
The source of the article is from the blog radardovalemg.com
