Підвищення продуктивності обчислень в хмарних технологіях за допомогою прискорювачів AMD

Оператори хмарних технологій, які спеціалізуються на управлінні енергоефективними графічними процесорами (GPU) та іншими інфраструктурами штучного інтелекту, все частіше звертаються до прискорювачів від AMD замість пропозицій від Nvidia.

Одним із таких операторів є TensorWave, який недавно почав інтегрувати системи з новими прискорювачами AMD Instinct MI300X. Компанія планує здавати ці чіпи в оренду за менші ціни порівняно з прискорювачами від Nvidia.

Найновіші прискорювачі від AMD викликали значний інтерес через свої переваги. Вони легко доступні для придбання порівняно з продукцією конкурента Nvidia, що дає TensorWave доступ до великої кількості через їхні навички ведення переговорів.

Контраст до рівних H100 від Nvidia, кристали AMD володіють більшим обсягом пам’яті HBM3 – 192 ГБ, що дозволяє обробку даних на швидкості 5,3 ТБ/с. У порівнянні, H100 має об’єм пам’яті 80 ГБ та пропускну здатність 3,35 ТБ/с.

Хоча прискорювачі від AMD стають популярними, деякі користувачі все ще питають про їхню продуктивність порівняно з продуктами від Nvidia. TensorWave планує впроваджувати вузли MI300X, використовуючи технологію RoCE (RDMA по збіжній Ethernet), для прискорення процесів розгортання.

Довгострокові плани TensorWave включають в себе запровадження більш вдосконаленого рішення управління ресурсами, підключення до 5,750 GPU та петабайтів високопропускного об’єму пам’яті за допомогою технології FabreX PCIe 5.0 від GigaIO. Цей проект буде фінансуватись через захищене кредитування для прискорювачів GPU, метод, який також використовується іншими компаніями з центрами обробки даних.

Адміратори починань Lambda та CoreWeave дійшли подібних успіхів з фінансуванням, тому варто чекати аналогічних новин від TensorWave в цьому році.

FAQ

Що таке прискорювачі AMD? Прискорювачі AMD – це високотехнологічні обчислювальні пристрої, які призначені покращувати продуктивність графічних обчислень та завдань штучного інтелекту.
В чому відмінність прискорювачів AMD від прискорювачів Nvidia? Прискорювачі AMD мають переваги, такі як доступність для придбання та вищі технічні характеристики, зокрема більший обсяг пам’яті та пропускну здатність даних у порівнянні з аналогами від Nvidia.
Які технології планує впроваджувати TensorWave для оптимізації продуктивності прискорювачів AMD? TensorWave планує використовувати технологію RoCE (RDMA по збіжній Ethernet) для прискорення процесів розгортання та оцінки ефективності прискорювачів AMD.

The source of the article is from the blog radiohotmusic.it