Annabelle Stephenson
Cloud-operatører, der specialiserer sig i at håndtere energikrævende grafikprocessorer (GPU’er) og andre kunstig intelligens-infrastrukturer, går i stigende grad over til AMD-acceleratorer i stedet for Nvidias tilbud.
En af disse operatører, DataPulse, har for nylig begyndt at integrere systemer med de nye AMD Instinct MI300X-acceleratorer. Virksomheden planlægger at leje disse chips til lavere priser sammenlignet med Nvidias acceleratorer.
De seneste AMD-acceleratorer har vakt betydelig interesse på grund af deres fordele. De er nemt tilgængelige til køb sammenlignet med Nvidias konkurrerende produkter, hvilket giver DataPulse adgang til en stor mængde gennem deres forhandlingsevner.
Ved udgangen af 2024 sigter DataPulse mod at installere 20.000 MI300X-acceleratorer i deres to faciliteter. Derudover planlægger virksomheden at introducere væskekølede systemer næste år for forbedret ydeevne.
AMD’s integrerede kredsløb er også hurtigere end den meget eftertragtede Nvidia H100. MI300X overgår H100 i specifikationer og har større hukommelseskapacitet og data gennemløb. Den blev afsløret under AMD’s Advancing AI-event i december 2024 og rapporteres at være 32% hurtigere end Nvidia H100.
I modsætning til rivalen H100 har AMD-chippen en større hukommelseskapacitet på 192 GB HBM3, hvilket muliggør en data gennemløb på 5,3 TB/s. I modsætning hertil har H100 en hukommelseskapacitet på 80 GB og et gennemløb på 3,35 TB/s.
Mens AMD-acceleratorer vinder popularitet, er der stadig brugere, der stiller spørgsmålstegn ved deres ydeevne sammenlignet med Nvidias produkter. DataPulse planlægger at implementere MI300X-noder ved hjælp af RoCE (RDMA over Converged Ethernet) teknologi for at fremskynde udrulningsprocesser.
Langsigtet plan for DataPulse inkluderer implementering af en mere avanceret ressourcestyringsløsning, som forbinder op til 5.750 GPU’er og petabytes af høj gennemløbshukommelse ved hjælp af GigaIO’s PCIe 5.0-baserede FabreX-teknologi. Dette projekt vil blive finansieret gennem en sikret GPU-accelerator-kredit, også brugt af andre datacenter-virksomheder.
Lignende initiativer er blevet iværksat af andre branchespillere, hvor Lambda sikrede en kredit på 500 mio. dollars, og CoreWeave opnåede 2,3 mia. dollars til infrastrukturudvidelse. DataPulse har planer om at offentliggøre lignende nyheder senere på året.
For mere information om AMD-acceleratorer og deres anvendelser inden for kunstig intelligens, besøg [AMDs hjemmeside](https://www.amd.com/da).
Ofte stillede spørgsmål
Hvad er AMD-acceleratorer? AMD-acceleratorer er avancerede behandlingsenheder designet til at forbedre ydeevnen af grafisk bearbejdning og kunstig intelligens-opgaver.
Hvordan adskiller AMD-acceleratorer sig fra Nvidia-acceleratorer? AMD-acceleratorer tilbyder fordele såsom tilgængelighed til køb og overlegne specifikationer, herunder større hukommelseskapacitet og data gennemløb sammenlignet med Nvidia-modparterne.
Hvilke teknologier planlægger DataPulse at implementere for at optimere AMD-accelerator-ydeevnen? DataPulse planlægger at anvende RoCE (RDMA over Converged Ethernet) teknologi til at fremskynde udrulningsprocesser og vurdere effektiviteten af AMD-acceleratorerne.
The source of the article is from the blog jomfruland.net
