Dando un vistazo a la arquitectura que impulsa las fábricas avanzadas de IA, NVIDIA lanzó el jueves un video que ofrece el primer vistazo público a Eos, su última supercomputadora a escala de data centers.
Un NVIDIA DGX SuperPOD a gran escala, Eos es donde los desarrolladores de NVIDIA crean sus avances en IA utilizando una infraestructura de computación acelerada y un software totalmente optimizado.
Eos está construido con 576 sistemas NVIDIA DGX H100, redes NVIDIA Quantum-2 InfiniBand y software, lo que proporciona un total de 18,4 exaflops de rendimiento de IA FP8. Este sistema es hermano de un Eos DGX SuperPOD independiente con 10,752 GPU NVIDIA H100, utilizado para la capacitación MLPerf en noviembre.
Revelado en noviembre en la feria Supercomputing 2023, Eos, llamado así por la diosa griega que se dice que abre las puertas del amanecer todos los días, refleja el compromiso de NVIDIA con el avance de la tecnología de IA.
La Supercomputadora Eos Impulsa la Innovación
Cada sistema DGX H100 está equipado con ocho GPU NVIDIA H100 Tensor Core. Eos cuenta con un total de 4.608 GPU H100.
Como resultado, Eos puede manejar las cargas de trabajo de IA más grandes para entrenar grandes modelos de lenguaje, sistemas de recomendación, simulaciones cuánticas y más.
Es una muestra de lo que las tecnologías de NVIDIA pueden hacer cuando trabajan a escala.
Eos llega en el momento perfecto. Las personas están cambiando el mundo con la IA generativa, desde el descubrimiento de fármacos hasta los chatbots, pasando por las máquinas autónomas y mucho más.
Para lograr estos avances, necesitan algo más que experiencia en IA y habilidades de desarrollo. Necesitan una AI factory, un motor de IA especialmente diseñado que esté siempre disponible y que pueda ayudar a aumentar su capacidad para crear modelos de IA a escala
Eos cumple. Clasificado como el número 9 en la lista TOP500 de las supercomputadoras más rápidas del mundo, Eos supera los límites de la tecnología y la infraestructura de IA.
Incluye la computación acelerada avanzada y las redes de NVIDIA junto con sofisticadas ofertas de software como NVIDIA Base Command y NVIDIA AI Enterprise.
La arquitectura de Eos está optimizada para cargas de trabajo de IA que exigen una latencia ultrabaja e interconectividad de alto rendimiento en un gran clúster de nodos de computación acelerada, lo que la convierte en una solución ideal para las empresas que buscan escalar sus capacidades de IA.
Basado en NVIDIA Quantum-2 InfiniBand con tecnología In-Network Computing, su arquitectura de red admite velocidades de transferencia de datos de hasta 400 Gb/s, lo que facilita el movimiento rápido de grandes conjuntos de datos esenciales para entrenar modelos de IA complejos.
En el corazón de Eos se encuentra la innovadora arquitectura DGX SuperPOD impulsada por los sistemas DGX H100 de NVIDIA.
La arquitectura está diseñada para proporcionar a los campos de la IA y la computación sistemas de pila completa estrechamente integrados capaces de computar a gran escala.
A medida que las empresas y los desarrolladores de todo el mundo buscan aprovechar el poder de la IA, Eos se erige como un recurso fundamental, que promete acelerar el viaje hacia aplicaciones infundidas por IA que impulsen a todas las organizaciones.