Novi Proizvod za Računalnu Obradu Podataka optimiziran AMD-ovim ulaživačima [AMD accelerators]

Operateri u oblaku specijalizirani za upravljanje energetski intenzivnim grafičkim procesnim jedinicama (GPUs) i drugim infrastrukturama umjetne inteligencije sve više prelaze na AMD-ove ubrzače umjesto ponuda tvrtke Nvidia.

Jedan takav operater, TensorWave, nedavno je počeo integrirati sustave s novim AMD-ovim ubrzačima Instinct MI300X. Tvrtka planira iznajmljivati ove čipove po nižim cijenama u usporedbi s Nvidia-ovim ubrzačima.

Najnoviji AMD ubrzači privukli su značajan interes zbog svojih prednosti. Dostupni su za kupnju u usporedbi s konkurentskim proizvodima tvrtke Nvidia, dajući TensorWave-u pristup velikoj količini zahvaljujući njihovim pregovaračkim vještinama.

Do kraja 2024. godine, TensorWave planira instalirati 20.000 MI300X ubrzača u svoje dvije ustanove. Osim toga, tvrtka planira uvesti sustave s tekućim hlađenjem sljedeće godine radi poboljšane izvedbe.

Integrirani krugovi AMD-a također su brži od nadaleko popularnog Nvidia H100. MI300X nadmašuje H100 u specifikacijama, hvaleći se većim kapacitetom memorije i protokom podataka. Predstavljen je tijekom AMD-ovog događaja Advancing AI u prosincu 2024. godine i navodno je 32% brži od Nvidia H100.

U usporedbi s konkurentskim H100, AMD-ov čip ima većih 192 GB kapaciteta memorije HBM3, omogućujući protok podataka od 5,3 TB/s. Nasuprot tome, H100 ima kapacitet memorije od 80 GB i protok od 3,35 TB/s.

I dok AMD ubrzači postaju sve popularniji, neki korisnici i dalje dovode u pitanje njihovu učinkovitost u usporedbi s Nvidia proizvodima. TensorWave planira implementirati MI300X čvorove koristeći tehnologiju RoCE (RDMA preko konvergirane Ethernet mreže) kako bi ubrzali procese implementacije.

Dugoročni planovi za TensorWave uključuju implementaciju naprednijeg rješenja za upravljanje resursima, povezivanje do 5.750 GPUs-a i petabajta memorijskog kapaciteta visokog propusnog opsega koristeći GigaIO-ovu tehnologiju FabreX temeljenu na PCIe 5.0. Ovaj projekt bit će financiran putem osiguranog kredita za ubrzač GPU-a, metodom također korištenom od strane drugih tvrtki s podatkovnim centrima.

Slične inicijative poduzele su i druge tvrtke u industriji, pri čemu je Lambda osigurala kredit od 500 milijuna dolara, a CoreWeave 2,3 milijarde dolara za proširenje infrastrukture. TensorWave planira objaviti slične vijesti kasnije ove godine.

Za više informacija o AMD ubrzačima i njihovoj primjeni u umjetnoj inteligenciji, posjetite AMD web stranicu.

Često postavljana pitanja (FAQ)

1. Što su AMD ubrzači?

AMD ubrzači su napredne procesorske jedinice dizajnirane za poboljšanje performansi grafičke obrade i umjetne inteligencije.

2. Kako se AMD ubrzači razlikuju od Nvidia ubrzača?

AMD ubrzači nude prednosti poput dostupnosti za kupnju i superiornih specifikacija, uključujući veći kapacitet memorije i protoka podataka u usporedbi s Nvidia konkurentima.

3. Koje tehnologije planira implementirati TensorWave za optimizaciju performansi AMD ubrzača?

TensorWave planira koristiti RoCE (RDMA preko konvergirane Ethernet mreže) tehnologiju za ubrzanje procesa implementacije i procjene učinkovitosti AMD ubrzača.

The source of the article is from the blog kewauneecomet.com