Lanzada hoy, NVIDIA Minerva es una plataforma de AIOps creada para ayudar a los equipos a encontrar problemas antes y mantener productivas las fábricas de IA. Reúne la telemetría de la infraestructura y de las cargas de trabajo de IA, y aplica modelos de IA dedicados para convertir esos datos en información accionable y oportuna.
Las fábricas de IA están entre las operaciones más complejas del mundo, con una enorme cantidad de GPU que trabajan en redes de alta velocidad para entrenar modelos y poner a servir aplicaciones de IA. A esa escala, un solo componente degradado puede frenar un job completo. Las señales de alerta son fáciles de pasar por alto, como una GPU que opera más caliente que las demás o una unidad NVMe que pierde rendimiento bajo carga.
La plataforma se enfoca en el rendimiento de la fábrica de IA, una medida del trabajo útil que produce la infraestructura, considerando horas de GPU, goodput, tiempo de actividad del clúster y producción de tokens.
Una vista dinámica de la fábrica de IA
Las herramientas tradicionales de monitoreo suelen dividir el data center en vistas separadas. Los equipos de red, de cómputo, de confiabilidad de sitio y de machine learning ven, cada uno, una parte distinta de la operación. Minerva conecta esas señales entre las GPU NVIDIA, la red, el almacenamiento, los schedulers y las cargas de trabajo.
Con esas señales, Minerva construye un grafo de conocimiento dinámico que mapea lógicamente la infraestructura, es decir, GPU, SuperNIC, switches y cables, y los jobs que se ejecutan sobre ella. Este contexto ayuda a rastrear un job de entrenamiento lento hasta el componente que lo afecta, incluso en una fábrica con cientos de miles de GPU.
La plataforma analiza miles de millones de puntos de datos por hora con machine learning supervisado y no supervisado. Aprende el comportamiento normal, detecta anomalías nunca antes vistas, predice fallas en formación y correlaciona eventos relacionados según la topología de la fábrica. En lugar de enviar cada síntoma al equipo de operación, puede agrupar una tormenta de eventos en un solo incidente, con una causa raíz probable.
Minerva incluye un asistente de IA nativo y se conecta con herramientas externas de IA basada en agentes. Esto suma una interfaz de lenguaje natural anclada en telemetría en vivo. El equipo de operación puede investigar la salud del clúster y recibir recomendaciones de remediación por conversación. Los equipos pueden mantener a una persona en el circuito para aplicar correcciones de forma manual, o conectar Minerva a la automatización mediante interfaces de programación de aplicaciones de infraestructura y sistemas externos.
Resultados que maximizan el rendimiento de la fábrica de IA
La capacidad de correlacionar problemas de carga de trabajo y de infraestructura, sumada a sus capacidades de IA basada en agentes, ayuda a simplificar la operación de la fábrica de IA. En lugar de lidiar con una avalancha de alertas, Minerva agrega los problemas relacionados en un solo elemento accionable. Esto permite que los equipos de AIOps pasen del mantenimiento reactivo al proactivo. Todo esto ayuda a las fábricas de IA a maximizar el tiempo de actividad de las GPU.
Minerva aporta valor en las métricas centrales de las fábricas de IA:
- Más tiempo entre interrupciones: Minerva detecta el problema antes de que ocurra, de modo que los jobs se ejecutan más tiempo sin incidentes.
- Menos tiempo hasta la reparación: cuando ocurre un incidente, Minerva señala el problema, lo que lleva a una resolución mucho más rápida.
- Más claridad: la infraestructura de IA moderna genera una avalancha de datos; Minerva la filtra y deja solo el puñado de alertas que de verdad importa.
IREN está entre los socios de NVIDIA que usan Minerva para optimizar sus fábricas de IA.
«Conforme escalamos nuestras fábricas de IA, la clave para ofrecer el mejor servicio a nuestros clientes es maximizar la productividad de nuestras GPU», dijo Denis Skrinnikoff, director de tecnología de IREN. «NVIDIA Minerva le da a nuestro equipo de operaciones una vista única de la red, de las GPU y de los jobs que se ejecutan sobre ellas, así que nos enfocamos más en mantenimiento proactivo que en troubleshooting. Esa visibilidad fortalece nuestro modelo de operación para la infraestructura que vamos a construir a continuación.»
Conozca más sobre NVIDIA Minerva.
Consulte el aviso sobre la información de productos de software.