Інноваційний шлях розвитку хмарного обчислення з використанням прискорювачів AMD

Оператори хмарних послуг, які спеціалізуються на управлінні енергоефективними графічними процесорами (GPU) та іншими інфраструктурами штучного інтелекту, все частіше звертаються до прискорювачів від AMD замість пропозицій від Nvidia.

Оператор TensorWave недавно почав інтегрувати системи з новими прискорювачами AMD Instinct MI300X. Компанія планує здавати ці чіпи в оренду за менші ціни порівняно з прискорювачами від Nvidia.

Останні прискорювачі від AMD зібрали значний інтерес через свої переваги. Вони легко доступні для покупки порівняно з конкуруючими продуктами від Nvidia, що дає TensorWave доступ до великої кількості завдяки їхнім навичкам у переговорах.

Конечною метою TensorWave до 2024 року є встановлення 20 000 прискорювачів MI300X у своїх двох об’єктах. Крім того, компанія планує ввести системи з рідинним охолодженням наступного року для підвищення продуктивності.

Інтегровані схеми від AMD також швидше за дуже популярний Nvidia H100. MI300X перевершує H100 за технічними характеристиками, похваляючись більшим обсягом пам’яті та пропускною здатністю даних. Він був представлений під час події Advancing AI від AMD у грудні 2024 року і, за повідомленнями, у 32% швидший за Nvidia H100.

Порівняно з конкурентом H100, чіп AMD має більший обсяг пам’яті 192 ГБ HBM3, що дозволяє пропускну здатність даних 5,3 ТБ/с. У порівнянні H100 має обсяг пам’яті 80 ГБ та пропускну здатність 3,35 ТБ/с.

Незважаючи на популярність прискорювачів AMD, деякі користувачі все ще питаються про їхню продуктивність у порівнянні з продуктами від Nvidia. TensorWave планує розгортати вузли MI300X з використанням технології RoCE (RDMA over Converged Ethernet), щоб прискорити процеси розгортання.

Довгостроковими планами для TensorWave є впровадження більш продуманого рішення управління ресурсами, підключення до 5,750 GPU та петабайтів високопропускної пам’яті за допомогою технології PCIe 5.0 на основі FabreX від GigaIO. Цей проект буде фінансуватися за допомогою забезпеченого кредиту на прискорювачі GPU, який також використовують інші компанії дата-центрів.

Схожі ініціативи були започатковані іншими гравцями ринку, Лямбда отримала кредит на суму 500 мільйонів доларів, а CoreWeave – 2,3 мільярда доларів для розширення інфраструктури. TensorWave планує оголосити подібні новини пізніше цього року.

Для отримання додаткової інформації про прискорювачі від AMD та їх застосування в штучному інтелекті відвідайте веб-сайт AMD.

Часті питання

Що таке прискорювачі від AMD? Прискорювачі від AMD – це високопродуктивні обчислювальні пристрої, призначені для покращення роботи графічних процесорів та завдань штучного інтелекту.
В чому відмінність між прискорювачами AMD і прискорювачами Nvidia? Прискорювачі від AMD мають переваги, такі як доступність для придбання та переваги у технічних характеристиках, включаючи більший обсяг пам’яті та пропускну здатність даних у порівнянні з конкурентами від Nvidia.
Які технології TensorWave планує впровадити для оптимізації продуктивності прискорювачів AMD? TensorWave планує використовувати технологію RoCE (RDMA over Converged Ethernet) для прискорення процесів розгортання та оцінки ефективності прискорювачів AMD.

The source of the article is from the blog papodemusica.com