Революционное компьютерное искусственное интеллекта: UltraStack от Liqid и VR-проект Meta
Мета (ранее Facebook), известная своим стремлением к применению передовых технологий, нашла решение для своего исследовательского проекта в области виртуальной реальности, требующего большей вычислительной мощности на базе GPU. Проект столкнулся с ограничениями из-за обычных препятствий в отрасли информационных технологий, таких как ограниченная плотность и доступность серверов с GPU. Однако Мета обратилась к компании Liqid, пионеру в сфере собираемой дезагрегированной инфраструктуры, чтобы преодолеть эти проблемы.
Liqid представила серверное решение UltraStack, оснащенное серверами Dell PowerEdge 2U с до 20 GPU NVIDIA L40S. Это инновационное решение не только удовлетворяет потребность в высокой плотности GPU, но и значительно улучшает производительность. UltraStack имеет потенциал ускорить нагрузку следующего поколения, обеспечивая заметный прирост производительности в 35 процентов. Кроме того, оно позволяет сэкономить средства, обеспечивая снижение потребления энергии на 35 процентов и удивительное уменьшение затрат на лицензии для программного обеспечения в 75 процентов по сравнению с серверами с более низкой емкостью GPU.
Васу Агравал, ведущий инженер-исследователь в Мета, рассказывает о влиянии Liqid UltraStack с GPU NVIDIA L40S и серверами Dell PowerEdge в видеоинтервью. Он подчеркивает, как эта инфраструктура трансформировала их проект в области виртуальной реальности, улучшив вычислительные возможности и способствуя значимым прорывам.
Основное преимущество UltraStack заключается в его способности беспрепятственно подключать большое количество GPU к стандартному серверу. Таким образом, он эффективно решает три критические проблемы в области вычислений AI: затраты и сложность, время и производительность.
Во-первых, UltraStack устраняет затраты и сложности, связанные с недостаточной плотностью GPU. Многие реализации AI испытывают затруднения из-за ограниченного количества GPU на сервер, что приводит к увеличению расходов на электропитание, охлаждение и помещение, а также к сложностям в управлении системой. Однако UltraStack решает эту проблему, включая до 20 GPU на один сервер.
Во-вторых, реализация инфраструктуры AI часто сталкивается с задержками из-за ограниченной доступности высокопроизводительных GPU. Интеграция легко доступных GPU NVIDIA L40S в UltraStack гарантирует своевременное и эффективное развертывание.
Наконец, UltraStack обеспечивает исключительную производительность, консолидируя до 20 GPU на сервер. Результаты тестирования с использованием MLPerf 3.1 Inference LLM (Large Language Model) продемонстрировали замечательные показатели запросов в секунду в различных областях. Например, с 16x GPU L40S UltraStack достигает впечатляющих 94 запроса/с при ~7 000 Вт для MLPerf 3.1 Inference LLM. Более того, UltraStack проявила свое мастерство в областях Обнаружения объектов, Медицинского изображения и Обработки естественного языка, достигнув 10 104 запроса/с, 62,6 запроса/с и 44 730 запроса/с соответственно.
Liqid предлагает UltraStack как в виде самостоятельных, так и готовых к кластеризации серверов. Самостоятельные серверы могут вмещать до 20 GPU, а серверы, готовые к кластеризации, включают до 16 GPU L40S, а также накопители Liqid IO Accelerator NVMe SSDs, сетевые карты NVIDIA ConnectX-7 NICs и процессоры NVIDIA BlueField-3 DPUs для улучшенной связности и эффективности в сложных средах искусственного интеллекта.
UltraStack от Liqid, в сочетании с приверженностью Meta к применению технологий AI, указывает на значительный прогресс в области вычислений AI. Решая ключевые проблемы и обеспечивая исключительную производительность, UltraStack открывает путь для ускоренных прорывов в области AI и впечатляющих виртуальных реальностей.
Дополнительные факты, относящиеся к данной теме:
— Серверное решение UltraStack от Liqid основано на собираемой дезагрегированной инфраструктуре (CDI), которая позволяет динамически создавать и переконфигурировать ресурсы вычислений, хранения и сетей. CDI позволяет организациям оптимизировать выделение ресурсов, улучшить гибкость и упорядочить управление инфраструктурой.
— Исследовательский проект Мета в области виртуальной реальности нацелен на создание захватывающих впечатлений для пользователей за счет использования передовых технологий, таких как AI и компьютерное зрение. Увеличение вычислительной мощности GPU, обеспеченное UltraStack, повышает способность проекта отображать реалистичные и интерактивные виртуальные окружения.
— Партнерство между Мета и Liqid демонстрирует важность сотрудничества между технологическими компаниями в преодолении границ вычислений AI и виртуальной реальности. Благодаря совместной работе им удалось преодолеть ограничения существующей инфраструктуры и стимулировать инновации в своих областях.
Наиболее важные вопросы по теме:
1. В чем разница между плотностью GPU в UltraStack и традиционной конфигурацией серверов?
2. Какие конкретные улучшения производительности достигнуты с помощью UltraStack в различных рабочих нагрузках AI?
3. Как UltraStack решает проблемы затрат и сложности в вычислениях AI?
4. Каким могут быть потенциальные применения улучшенной вычислительной мощности GPU в исследовательском проекте Meta в области виртуальной реальности?
5. Как интеграция накопителей Liqid IO Accelerator NVMe SSDs, сетевых карт NVIDIA ConnectX-7 NICs и процессоров NVIDIA BlueField-3 DPUs способствует эффективности серверов, готовых к кластеризации?
Ключевые вызовы или противоречия, связанные с темой:
1. Масштабируемость: Хотя UltraStack решает ограничения плотности GPU в традиционных конфигурациях серверов, масштабирование инфраструктуры для размещения больших рабочих нагрузок AI все еще может вызывать трудности. Организации должны тщательно планировать развертывание инфраструктуры и учитывать факторы, такие как требования к энергоэффективности и охлаждению.
2. Затраты: Хотя UltraStack предлагает снижение расходов за счет понижения потребления энергии и стоимости лицензий на программное обеспечение, начальные инвестиции в серверы с высокой плотностью GPU могут быть значительными. Организации должны оценить долгосрочную экономическую эффективность таких решений и конкретные преимущества, которые они предоставляют для своих рабочих нагрузок AI.
Преимущества UltraStack от Liqid и исследовательского проекта VR в Meta:
1. Увеличение вычислительной мощности: Интеграция высокоплотностных серверов UltraStack значительно увеличивает вычислительные возможности исследовательского проекта в области виртуальной реальности Meta. Эта повышенная мощность позволяет отображать более сложные и реалистичные виртуальные окружения, что приводит к более увлекательным впечатлениям виртуальной реальности.
2. Экономия затрат: UltraStack предлагает снижение расходов за счет уменьшения энергопотребления и затрат на лицензии на программное обеспечение. Это особенно полезно для организаций с масштабными реализациями AI, требующими большого количества GPU.
Недостатки:
1. Начальные инвестиции: Развертывание UltraStack и аналогичных решений с высокой плотностью GPU требует существенных начальных вложений. Организации должны тщательно оценить финансовые аспекты и потенциальную отдачу от такой инфраструктуры перед ее внедрением.
2. Ограничения масштабируемости: Несмотря на то, что UltraStack решает проблемы плотности серверов с GPU, могут возникнуть трудности в масштабировании, когда речь идет о размещении больших рабочих нагрузок AI. Организации должны учитывать рост и потребности в масштабируемости своей инфраструктуры AI.
