Annabelle Stephenson
Met de opkomst van geavanceerde technologieën in cloud computing, zijn cloud operators zich steeds meer gaan richten op AMD versnellers in plaats van Nvidia’s aanbod. Een van deze innovators, TensorWave, heeft onlangs de meest recente AMD Instinct MI300X versnellers geïntegreerd in hun systemen. Hiermee willen ze een hogere efficiëntie behalen voor een lagere prijs dan de concurrentie.
De nieuwste generatie AMD accelerators heeft veel aandacht getrokken vanwege hun voordelen. Ze zijn gemakkelijk verkrijgbaar in grote aantallen en bieden TensorWave toegang tot geavanceerde technologieën dankzij hun onderhandelingsvaardigheden.
Tegen het einde van 2024 streeft TensorWave ernaar om 20.000 MI300X versnellers te installeren in hun faciliteiten. Bovendien zijn ze van plan om volgend jaar vloeistofgekoelde systemen te introduceren voor nog betere prestaties.
De AMD geïntegreerde schakelingen zijn sneller dan de zeer gewilde Nvidia H100. De MI300X overtreft de H100 op specificaties, met een grotere geheugencapaciteit en gegevensdoorvoer. Deze versneller, onthuld tijdens AMD’s Advancing AI evenement in december 2024, wordt gemeld als zijnde 32% sneller dan de Nvidia H100.
Vergeleken met de rivaliserende H100, beschikt de AMD chip over een grotere geheugencapaciteit van 192 GB HBM3, wat resulteert in een gegevensdoorvoer van 5.3 TB/s. Daarentegen heeft de H100 een geheugencapaciteit van 80 GB en een doorvoer van 3.35 TB/s.
Terwijl AMD versnellers aan populariteit winnen, zijn er nog steeds gebruikers die twijfelen over hun prestaties in vergelijking met Nvidia’s producten. TensorWave plant om MI300X nodes in te zetten met behulp van RoCE (RDMA over Converged Ethernet) technologie om de implementatieprocessen te versnellen.
De langetermijnplannen van TensorWave omvatten de implementatie van een geavanceerde resource management oplossing, waarbij tot 5,750 GPU’s en petabytes aan hoogdoorvoer geheugen worden aangesloten met behulp van GigaIO’s PCIe 5.0-gebaseerde FabreX technologie. Dit project zal worden gefinancierd via een beveiligd GPU accelerator credit, een methode die ook wordt gebruikt door andere datacenterbedrijven.
Vergelijkbare initiatieven worden ook ondernomen door andere spelers in de sector, waarbij Lambda een krediet van $500 miljoen veiligstelt en CoreWeave $2.3 miljard krijgt voor infrastructuuruitbreiding. TensorWave heeft plannen om later dit jaar vergelijkbaar nieuws aan te kondigen.
Veelgestelde vragen:
Wat zijn AMD versnellers?
AMD versnellers zijn geavanceerde verwerkingsunits die zijn ontworpen om de prestaties van grafische verwerking en kunstmatige intelligentietaken te verbeteren.
Hoe verschillen AMD versnellers van Nvidia versnellers?
AMD versnellers bieden voordelen zoals beschikbaarheid voor aankoop en superieure specificaties, waaronder een grotere geheugencapaciteit en gegevensdoorvoer in vergelijking met Nvidia concurrenten.
Welke technologieën is TensorWave van plan te implementeren om de prestaties van AMD versnellers te optimaliseren?
TensorWave is van plan RoCE (RDMA over Converged Ethernet) technologie te gebruiken om de implementatieprocessen te versnellen en de efficiëntie van de AMD versnellers te evalueren.
The source of the article is from the blog anexartiti.gr
