Para generar inteligencia a escala, las fábricas de IA operan de forma continua, y su economía se define por la producción entregada: tokens por segundo, tokens por watt, costo por token, utilización y uptime.
Eso exige una infraestructura de IA diseñada y construida como una fábrica completa, no como un conjunto de aceleradores individuales.
Los hyperscalers y las empresas nativas de IA que desarrollan XPU personalizadas deben considerar no solo el diseño de la XPU, sino también el diseño y el desarrollo de toda la plataforma de IA, incluidas las redes scale-up y scale-out, la arquitectura a escala de rack, el software de fábrica en producción y un ecosistema robusto de proveedores.
A escala de fábrica de IA, ese camino es complejo y costoso, y representa un obstáculo fundamental para llevar las XPU al mercado con rapidez.
Superar esa limitación significa combinar XPU personalizadas con una infraestructura madura y comprobada: así, quienes construyen pueden concentrar la innovación donde más importa y aprovechar tecnología ya consolidada para el resto.
NVLink Fusion responde a esa necesidad, al conectar las XPU con la infraestructura de IA líder mundial de NVIDIA para aumentar el rendimiento, acelerar el time to market y reducir el riesgo en fábricas de IA semipersonalizadas.
Libera el Rendimiento de las XPU con un Scale-Up Rápido
En cargas de trabajo modernas, como la ejecución de modelos con billones de parámetros, arquitecturas mixture-of-experts e IA basada en agentes, si el fabric de scale-up no da abasto, la utilización cae y el costo por token sube.
Una solución de red scale-up debe destacar en tres dimensiones:
- Rendimiento entregado: rendimiento de red de extremo a extremo, cómputo in-network e integración de software madura.
- Resiliencia de la fábrica: uptime, monitoreo continuo de salud y telemetría, y mantenimiento a nivel de componente mientras la fábrica sigue operando.
- Madurez de la plataforma: menor riesgo operativo al usar un stack tecnológico maduro, con un historial comprobado de implementaciones a gran escala y retorno de la inversión ya materializado.
Por ejemplo, NVLink Fusion lleva las XPU al dominio de scale-up de NVIDIA NVLink. El NVLink de sexta generación ofrece redes líderes de alto ancho de banda y baja latencia en un dominio de 72 XPU. La latencia de extremo a extremo en las transferencias entre XPU es 3 veces menor que en soluciones alternativas basadas en Ethernet estándar, y la tasa de paquetes es 10 veces mayor.
En rendimiento de extremo a extremo, los sistemas NVIDIA GB300 NVL72 ayudan a entregar un throughput significativamente mayor y mejor interactividad en comparación con configuraciones que no usan NVL72, y las próximas configuraciones del roadmap de NVLink incluyen dominios de hasta 1,152 aceleradores y óptica co-packaged.
NVLink Fusion también incluye NVIDIA NVLink-C2C para conectar las XPU con CPU NVIDIA Vera u otras CPU del ecosistema, y entrega hasta 6 veces la eficiencia energética de una interfaz PCIe, lo que ayuda a eliminar barreras entre control y cómputo en sistemas basados en agentes.
Un Stack y un Ecosistema Comprobados para el Desarrollo y la Implementación
Los equipos que desarrollan XPU personalizadas suelen subestimar el esfuerzo y la complejidad de convertir la innovación en XPU en una implementación de data center. Esto incluye:
- Integrar interfaces de CPU de alta velocidad y de scale-up
- Seleccionar y validar una solución de red scale-up
- Diseñar bandejas de cómputo y de switch
- Diseñar y validar una arquitectura de rack, incluidas la refrigeración y la energía
- Integrar seguridad y almacenamiento
- Gestionar un ecosistema complejo de proveedores
La plataforma ideal ofrece todo esto y permite que los equipos se enfoquen en la innovación dirigida y usen soluciones comprobadas para el resto.
NVLink Fusion cuenta con un ecosistema diseñado para un desarrollo, una integración y una implementación rápidos, que abarca socios de diseño de ASIC, de CPU y de IP e interconexión óptica.
“NVLink Fusion les da a los clientes la capacidad de elegir la arquitectura de CPU, el nivel de rendimiento y las capacidades de software que mejor se ajustan a sus necesidades para las cargas de trabajo que les importan”, afirmó Tim Wilson, vicepresidente y gerente general de ingeniería de silicio para data center de Intel.
Quienes adoptan NVLink Fusion también pueden usar la arquitectura a escala de rack NVIDIA MGX y la misma cadena de suministro de los sistemas basados en MGX, como NVIDIA Vera Rubin NVL72. Los socios de manufactura se encargan del diseño y la integración, mientras que los proveedores de MGX entregan los bloques de construcción para rack, refrigeración, energía y los nuevos diseños de 800 VDC.
“Con Vera Rubin [NVL72], estamos hablando de casi 100% de automatización en el armado de los sistemas en la línea de manufactura”, dijo Jack Luoh, head de producto y solución en QCT y Quanta Computer. “La mayor parte de esas inversiones se puede aprovechar si la XPU usa NVLink Fusion.”
Gestión de Riesgos con Estandarización de la Infraestructura
La planeación de una fábrica de IA no espera al silicio. La contratación de energía, el diseño de las instalaciones, la refrigeración, el layout de los racks y la arquitectura de red comienzan mucho antes de que el mix final de aceleradores esté disponible. Un data center atado a un solo chip puede convertirse en un riesgo de calendario.
Distintas cargas de trabajo pueden favorecer distintos aceleradores, incluidas XPU, GPU, CPU y LPU. Los sistemas con GPU pueden operar junto con sistemas semipersonalizados para entrenamiento, post-entrenamiento, razonamiento, recuperación y serving.
“El valor del programa NVLink Fusion es … [los clientes] pueden implementar su solución a nivel de rack con la GPU NVIDIA y, después, desacoplar el desarrollo de su propia XPU y llevarlo a otro ritmo”, dijo Vince Hu, vicepresidente sénior corporativo y gerente general del grupo de negocios de data center y cómputo de MediaTek.
NVLink Fusion resuelve estos desafíos con una arquitectura unificada. Los sistemas basados en XPU y en GPU, como Vera Rubin NVL72, pueden compartir footprint de rack, redes, refrigeración, distribución de energía y sistemas de gestión. Los operadores pueden avanzar con la construcción mientras posponen la definición exacta del mix de silicio y, después, reaprovisionar capacidad conforme cambian la demanda de las cargas de trabajo, la oferta de silicio y las prioridades del negocio.
“NVLink Fusion permite que los hyperscalers o los diseñadores de ASIC personalizados integren su propia CPU o XPU personalizada, y conecta la tecnología de NVIDIA con un proceso de terceros para crear una arquitectura unificada a escala de rack”, dijo Lie-Szu Juang, chair y chief strategy officer de GUC.
Diseñada, Validada y Operada como una Fábrica
Construir una fábrica es caro, y los errores pueden exigir un retrabajo costoso. La infraestructura debe validarse antes de que comience la obra. NVLink Fusion se alinea con la arquitectura de referencia NVIDIA DSX para fábricas de IA: codiseño de edificios, energía, refrigeración, cómputo y redes. El NVIDIA Omniverse DSX AI Factory Blueprint ofrece un gemelo digital y un diseño de referencia abierto para fábricas de IA a escala de gigavatios, lo que permite que los socios modelen instalaciones y tecnología en conjunto antes de la implementación.
A nivel de rack, la facilidad de mantenimiento forma parte del rendimiento. Las bandejas de cómputo de referencia tienen refrigeración 100% líquida, sin ventiladores, cables ni mangueras, y se pueden retirar mientras el resto del rack sigue operando. Las bandejas del NVLink Switch también son de refrigeración líquida y permiten la operación continua durante el mantenimiento.
“Con NVLink Fusion podemos usar el diseño comprobado del rack NVL72 para ganar time-to-market, y tenemos acceso a múltiples proveedores que nos ayudan a entregar más a nuestros clientes”, dijo CC Lee, gerente sénior de desarrollo de hardware en Annapurna Labs, una empresa de Amazon.
El software completa la fábrica. NVIDIA NCCL para cargas de trabajo distribuidas, NVIDIA Dynamo y NIXL para desagregación y NVIDIA Mission Control para gestión de clústeres, telemetría y depuración ayudan a los operadores a ejecutar una infraestructura de IA mixta como un sistema coordinado.
Con NVLink Fusion, las XPU ahora se conectan con una plataforma de IA de clase mundial, lo que permite que los hyperscalers y las empresas nativas de IA construyan fábricas de IA unificadas y semipersonalizadas, que reúnen las fortalezas de muchos constructores en una infraestructura que ninguna empresa podría levantar sola.
Conoce más sobre NVLink Fusion.