Annabelle Stephenson
Оператори хмарних сервісів, які спеціалізуються на управлінні енергоємними графічними процесорами (GPU) та іншими інфраструктурами штучного інтелекту, все більше звертаються до прискорювачів від AMD замість пропозицій від Nvidia.
Один із таких операторів, TensorWave, нещодавно почав інтегрувати системи з новими прискорювачами AMD Instinct MI300X. Компанія планує здавати ці чіпи в оренду за більш низькими цінами порівняно з прискорювачами від Nvidia.
Останні прискорювачі від AMD здобули значний інтерес через їх переваги. Вони готові до покупки порівняно з конкуруючими продуктами від Nvidia, надаючи компанії TensorWave доступ до великої кількості завдяки їхнім навичкам у переговорах.
До кінця 2024 року TensorWave планує встановити 20 000 прискорювачів MI300X у своїх двох об’єктах. Крім того, компанія планує ввести рідкісно-охолоджувані системи на наступний рік для підвищення продуктивності.
Інтегровані схеми від AMD також швидші, ніж дуже важливі прискорювачі Nvidia H100. MI300X перевершує H100 за технічними характеристиками, похвалюючи більшу ємність пам’яті та пропускну здатність даних. Він був представлений під час заходу Advancing AI від AMD в грудні 2024 року і повідомляється, що він на 32% швидше за Nvidia H100.
Порівняно з конкуруючим H100, чіп від AMD має більшу ємність пам’яті HBM3 у 192 ГБ, що дозволяє пропускну здатність даних 5,3 ТБ/с. У зворотному випадку, H100 має ємність в 80 ГБ та пропускну здатність 3,35 ТБ/с.
Хоча прискорювачі від AMD набирають популярність, деякі користувачі все ще питають про їх продуктивність порівняно з продуктами від Nvidia. TensorWave планує розгорнути вузли MI300X, використовуючи технологію RoCE (RDMA over Converged Ethernet), щоб прискорити процеси розгортання.
Довгострокові плани для TensorWave включають впровадження більш передового рішення управління ресурсами, підключення до 5 750 GPU та петабайтів високопропускної пам’яті за допомогою технології FabreX на основі PCIe 5.0 від GigaIO. Цей проект буде фінансуватися за допомогою захищеного кредиту на прискорювачі GPU, метод також використовується іншими компаніями дата-центру.
Подібні ініціативи були запущені іншими учасниками галузі, з Lambda, що отримала кредит на суму 500 мільйонів доларів, та CoreWeave, яка отримала 2,3 мільярда доларів на розширення інфраструктури. TensorWave має намір оголосити аналогічні новини пізніше цього року.
Для отримання додаткової інформації про прискорювачі AMD та їх застосування в штучному інтелекті, завітайте на веб-сайт AMD.
Часті запитання
Що таке прискорювачі AMD? Прискорювачі AMD – це передові обчислювальні одиниці, які призначені для покращення продуктивності графічного оброблення та завдань штучного інтелекту.
Як прискорювачі AMD відрізняються від прискорювачів Nvidia? Прискорювачи AMD пропонують переваги, такі як доступність для покупки та переважні технічні характеристики, включаючи більшу ємність пам’яті та пропускну здатність даних порівняно з аналогічними продуктами від Nvidia.
Які технології планує впровадити TensorWave для оптимізації продуктивності прискорювачів AMD? TensorWave планує використовувати технологію RoCE (RDMA over Converged Ethernet) для прискорення процесів розгортання та оцінки ефективності прискорювачів AMD.
The source of the article is from the blog krama.net
