开创性云计算革新——AMD加速器引领新风潮

16 4 月 2024
Najnowsze akceleratory MI300X firmy AMD zyskują popularność wśród operatorów chmury

近期,专门管理高能耗的图形处理器单元(GPUs)和其他人工智能基础设施的云运营商越来越倾向于选择AMD加速器,而非英伟达的产品。

一家名为TensorWave的运营商最近开始将新的AMD Instinct MI300X加速器融入系统中。该公司计划以更低价格租用这些芯片,与英伟达的加速器相比。

最新的AMD加速器因其优势而引起了广泛关注。与英伟达的竞争产品相比,它们更易于购买,使TensorWave通过谈判技巧可以获得大量产品。

到2024年底,TensorWave计划在其两个设施中安装20,000个MI300X加速器。此外,该公司计划在明年推出液冷系统,以提升性能。

AMD集成电路也比备受追捧的英伟达H100要快。MI300X在规格上优于H100,具有更大的内存容量和数据吞吐量。它于2024年12月的AMD人工智能推进活动中发布,并据报比英伟达H100 快32%。

与竞争对手H100相比,AMD芯片具有更大的192 GB HBM3内存容量,实现了5.3 TB/s的数据吞吐量。相比之下,H100的内存容量为80 GB,数据吞吐量为3.35 TB/s。

虽然AMD加速器正变得越来越受欢迎,但一些用户仍在对其性能与英伟达产品相比提出疑问。TensorWave计划部署使用RoCE(以太网上的RDMA)技术的MI300X节点,以加速部署过程。

TensorWave的长期计划包括实施更先进的资源管理解决方案,利用GigaIO的基于PCIe 5.0的FabreX技术连接多达5,750个GPU和PB级的高吞吐量内存。这个项目将通过获得的GPU加速器信贷资金支持,这也是其他数据中心公司所采用的方法。

其他行业参与者也正在进行类似的倡议,例如Lambda获得了50亿美元的信贷额度,CoreWeave获得了23亿美元用于基础设施扩展。TensorWave计划在今年晚些时候宣布类似的消息。

要了解更多关于AMD加速器及其在人工智能中的应用,请访问AMD网站

常见问题

The source of the article is from the blog myshopsguide.com

Don't Miss