Uusi aikakausi pilvitietojenkäsittelyssä AMD-kiihdyttimillä

Pilvipalveluiden tarjoajat, jotka erikoistuvat energiakäyttöisiin grafiikkaprosessointiyksiköihin (GPU) ja muihin tekoälyinfrastruktuureihin, siirtyvät yhä enenevässä määrin käyttämään AMD:n kiihdyttimiä Nvidia-tuotteiden sijaan.

Yksi tällainen operaattori, TensorWave, on äskettäin aloittanut AMD Instinct MI300X -kiihdyttimien integroinnin järjestelmiinsä. Yhtiö aikoo vuokrata näitä siruja alhaisempiin hintoihin verrattuna Nvidian kiihdyttimiin.

Uusimmat AMD-kiihdyttimet ovat herättäneet huomattavaa mielenkiintoa etujaan kohtaan. Ne ovat helposti saatavilla ostettavaksi verrattuna Nvidian kilpaileviin tuotteisiin, mikä antaa TensorWavelle pääsyn suureen määrään neuvottelutaitojensa ansiosta.

Vuoden 2024 loppuun mennessä TensorWave aikoo asentaa 20 000 MI300X-kiihdytintä kahteen laitokseensa. Lisäksi yhtiö aikoo esitellä nestekyölintegraatioratkaisut ensi vuonna parannetun suorituskyvyn saavuttamiseksi.

AMD:n integroidut piirit ovat myös nopeampia kuin erittäin haluttu Nvidia H100. MI300X voittaa H100:n teknisten ominaisuuksien osalta ylittäen sen muistin kapasiteetin ja tietojen läpikulun. Se esiteltiin AMD:n Etenevän tekoälyn tapahtumassa joulukuussa 2024 ja se on raportoitu olevan 32% nopeampi kuin Nvidia H100.

Verrattuna kilpailevaan H100:een AMD-sirulla on suurempi 192 Gt HBM3-muistikapasiteetti, mahdollistaen 5,3 TB/s tietojen läpikulun. Toisin kuin H100:ssa, jossa on 80 Gt muistikapasiteetti ja 3,35 TB/s läpikulku.

Vaikka AMD-kiihdyttimet ovat saamassa suosiota, jotkut käyttäjät kyseenalaistavat edelleen niiden suorituskyvyn verrattuna Nvidian tuotteisiin. TensorWave aikoo ottaa käyttöön RoCE (RDMA yli yhdistetyn Ethernetin) -tekniikan MI300X-solmujen käyttämiseksi kiihdyttämään asennusprosesseja.

TensorWaven pitkän aikavälin suunnitelmiin kuuluu kehittyneen resurssienhallintaratkaisun käyttöönotto, joka yhdistää jopa 5 750 GPU:ta ja petatavuja suuritehoista muistia hyödyntämällä GigaIO:n PCIe 5.0-pohjaista FabreX-tekniikkaa. Tämä projekti rahoitetaan turvatulla GPU-kiihdyttimen luotolla, menetelmällä, jota käyttävät myös muut datakeskustyhtiöt.

Samanlaisia aloitteita ovat tehneet muut alan toimijat, kuten Lambda, joka on turvannut 500 miljoonan dollarin luoton, ja CoreWeave, joka on saanut 2,3 miljardin dollarin infrastruktuurin laajennusta varten. TensorWave aikoo ilmoittaa vastaavista uutisista myöhemmin tänä vuonna.

Lisätietoja AMD-kiihdyttimistä ja niiden sovelluksista tekoälyssä löytyy AMD:n verkkosivuilta.