Annabelle Stephenson
In de wereld van cloud computing zijn er revoluties gaande die de manier waarop we omgaan met krachtintensieve graphics processing units (GPU’s) en andere kunstmatige intelligentie infrastructuren veranderen. Cloud operators zijn steeds vaker op zoek naar alternatieven voor Nvidia’s aanbod en wenden zich tot AMD accelerators voor geavanceerde oplossingen.
Eén van deze operators, TensorWave, heeft onlangs systemen geïntegreerd met de nieuwe AMD Instinct MI300X accelerators. Deze chips worden verhuurd tegen lagere prijzen dan de accelerators van Nvidia, wat de toegankelijkheid van geavanceerde technologie verbetert.
De nieuwste AMD accelerators hebben veel interesse gewekt vanwege hun voordelen. Ze zijn gemakkelijk verkrijgbaar in vergelijking met de concurrentie van Nvidia, waardoor TensorWave toegang heeft tot een grote hoeveelheid chips dankzij hun onderhandelingsvaardigheden.
Tegen het einde van 2024 streeft TensorWave ernaar om 20.000 MI300X accelerators te installeren in hun faciliteiten. Bovendien is het bedrijf van plan om volgend jaar vloeistofgekoelde systemen te introduceren voor verbeterde prestaties.
De AMD geïntegreerde schakelingen zijn sneller dan de zeer gewilde Nvidia H100. De MI300X overtreft de H100 qua specificaties, met een grotere geheugencapaciteit en datadoorvoer. Tijdens het evenement ‘Advancing AI’ van AMD in december 2024 werd de MI300X gelanceerd en meldde men dat deze 32% sneller is dan de Nvidia H100.
In vergelijking met de concurrerende H100, beschikt de AMD-chip over een grotere geheugencapaciteit van 192 GB HBM3, waardoor een datadoorvoer van 5.3 TB/s mogelijk is. In tegenstelling daartoe heeft de H100 een geheugencapaciteit van 80 GB en een doorvoer van 3.35 TB/s.
Hoewel AMD accelerators aan populariteit winnen, blijven sommige gebruikers twijfels hebben over hun prestaties in vergelijking met Nvidia-producten. TensorWave is van plan om MI300X nodes in te zetten met behulp van RoCE (RDMA over Converged Ethernet) technologie om implementatieprocessen te versnellen.
Lange termijnplannen van TensorWave omvatten het implementeren van een geavanceerde resource management-oplossing, waarbij tot 5.750 GPU’s en petabytes aan geheugen met hoge doorvoer worden aangesloten met behulp van GigaIO’s PCIe 5.0-gebaseerde FabreX-technologie. Dit project zal worden gefinancierd via een beveiligd GPU-accelerator krediet, een methode die ook wordt gebruikt door andere datacenterbedrijven.
Vergelijkbare initiatieven zijn ondernomen door andere spelers in de sector, waarbij Lambda een krediet van $500 miljoen heeft veiliggesteld en CoreWeave $2.3 miljard heeft verkregen voor uitbreiding van de infrastructuur. TensorWave is van plan om later dit jaar soortgelijk nieuws aan te kondigen.
FAQ
Wat zijn AMD accelerators?
AMD accelerators zijn geavanceerde verwerkingsunits die zijn ontworpen om de prestaties van grafische verwerking en kunstmatige intelligentietaken te verbeteren.
Hoe verschillen AMD accelerators van Nvidia accelerators?
AMD accelerators bieden voordelen zoals beschikbaarheid voor aankoop en superieure specificaties, waaronder een grotere geheugencapaciteit en datadoorvoer in vergelijking met Nvidia-concurrenten.
Welke technologieën van plan zijn ze te implementeren om de prestaties van AMD-accelerators te optimaliseren?
TensorWave plannen zijn onder andere gebruikmaken van RoCE (RDMA over Converged Ethernet) technologie om implementatieprocessen te versnellen en de efficiëntie van AMD accelerators te beoordelen.
The source of the article is from the blog yanoticias.es
