Revolucionando la Computación AI: UltraStack de Liqid y el Proyecto de VR de Meta
Meta (anteriormente conocido como Facebook), reconocido por su dedicación a adoptar tecnologías de vanguardia, ha encontrado una solución para satisfacer la necesidad de mayor potencia de cálculo impulsada por GPU en su proyecto de investigación de realidad virtual. El proyecto se enfrentaba a limitaciones debido a los obstáculos comunes de la industria de TI en cuanto a la limitada densidad y disponibilidad de servidores GPU. Sin embargo, Meta recurrió a Liqid, un pionero en infraestructura desagregada componible, para superar estos desafíos.
Liqid introdujo la solución de servidor UltraStack, que presenta servidores Dell PowerEdge de 2U equipados con hasta 20 GPUs NVIDIA L40S. Esta solución innovadora no solo satisface la demanda de alta densidad de GPU, sino que también mejora significativamente el rendimiento. UltraStack tiene el potencial de acelerar cargas de trabajo de próxima generación, ofreciendo un notable aumento del 35 por ciento en el rendimiento. Además, brinda ahorros de costos con una reducción del 35 por ciento en el consumo de energía y una impactante reducción del 75 por ciento en los costos de licencias de software en comparación con servidores con capacidades de GPU más bajas.
Vasu Agrawal, ingeniero de investigación de personal en Meta, destaca el impacto de Liqid UltraStack con GPUs NVIDIA L40S y servidores Dell PowerEdge en una entrevista en video. Él enfatiza cómo esta infraestructura ha transformado su proyecto de realidad virtual al mejorar las capacidades de cálculo y impulsar avances significativos.
La principal ventaja de UltraStack radica en su capacidad para conectar de manera transparente un gran número de GPUs a un servidor estándar. Al hacerlo, aborda de manera efectiva tres desafíos críticos en el cálculo de IA: costo y complejidad, tiempo y rendimiento.
En primer lugar, UltraStack elimina el costo y la complejidad asociados con la densidad de GPU insuficiente. Muchas implementaciones de IA luchan con un número limitado de GPUs por servidor, lo que resulta en un aumento de los costos de energía, refrigeración y espacio, así como en complejidades de gestión del sistema. Sin embargo, UltraStack resuelve este problema al incorporar hasta 20 GPUs por servidor.
En segundo lugar, la implementación de infraestructura de IA a menudo enfrenta retrasos debido a la limitada disponibilidad de GPUs de alto rendimiento. La integración de GPUs NVIDIA L40S fácilmente disponibles por parte de UltraStack garantiza una implementación oportuna y eficiente.
Por último, UltraStack ofrece un rendimiento excepcional al consolidar hasta 20 GPUs por servidor. Los resultados de las pruebas utilizando MLPerf 3.1 Inference LLM (Modelo de Lenguaje Grande) demostraron tasas de consultas por segundo notables en diferentes dominios. Por ejemplo, con 16 GPUs L40S, UltraStack logró unas impresionantes 94 consultas/seg a ~7,000W para MLPerf 3.1 Inference LLM. Además, UltraStack demostró su capacidad en Detección de Objetos, Imágenes Médicas y Procesamiento de Lenguaje Natural, logrando 10,104 consultas/seg, 62.6 consultas/seg y 44,730 consultas/seg respectivamente.
Liqid ofrece UltraStack en opciones de servidores independientes y listos para clúster. Los servidores independientes pueden albergar hasta 20 GPUs, mientras que los servidores listos para clúster incorporan hasta 16 GPUs L40S, junto con Liqid IO Accelerator NVMe SSDs, NIC NVIDIA ConnectX-7 y DPU NVIDIA BlueField-3 para una conectividad y eficiencia mejoradas en entornos de IA complejos.
La UltraStack de Liqid, junto con el compromiso de Meta con la adopción de tecnología de IA, representa un avance significativo en el ámbito del cálculo de IA. Al abordar desafíos cruciales y ofrecer un rendimiento excepcional, UltraStack allana el camino para avances acelerados en IA y experiencias de realidad virtual impactantes.
