Las Nuevas Soluciones de Infraestructura y Software del Sistema NVIDIA DGX Potencian la IA Empresarial

Adept AI, Hyundai Motor Group, KT y la Universidad de Wisconsin-Madison se encuentran entre los últimos innovadores en ofrecer IA basada en sistemas DGX, Base Command y DGX SuperPOD.
por Tony Paikeday

El día de hoy, en GTC, NVIDIA presentó una serie de actualizaciones a su cartera de DGX para impulsar nuevos avances en el desarrollo de IA empresarial.

Los sistemas NVIDIA DGX H100 ya están disponibles para su pedido. Estos componentes fundamentales de la infraestructura son compatibles con las soluciones de IA empresariales de pila completa de NVIDIA.

Con 32 petaflops de rendimiento con precisión FP8, NVIDIA DGX H100 ofrece un salto en la eficacia para el desarrollo de IA empresarial. Ofrece el triple de costo total de propiedad y 3.5 veces más eficiencia energética en comparación con la generación anterior.

El nuevo software NVIDIA Base Command, que simplifica y acelera el desarrollo de IA, potencia cada sistema DGX, desde nodos únicos hasta DGX SuperPOD.

También se presentó NVIDIA DGX BasePOD, la evolución de DGX POD, que hace que las implementaciones de IA del data center empresarial sea más simple y rápida para que los equipos de TI adquieran, implementen y administren.

Muchos de los líderes mundiales de IA están desarrollando avances tecnológicos, desde automóviles autónomos hasta asistentes de voz, utilizando sistemas y software NVIDIA DGX, y el ritmo de innovación no se está desacelerando.

Nuevas Funciones de NVIDIA Base Command

NVIDIA Base Command proporciona organización de nivel empresarial y administración de clústeres, y ahora cuenta con una pila de software completa para maximizar la productividad de los desarrolladores de IA, la capacidad de administración de TI y el rendimiento de las cargas de trabajo.

Las funciones de administración de workflows de Base Command ahora incluyen soporte para entornos DGX SuperPOD locales, lo que permite a las empresas obtener un control centralizado de los proyectos de desarrollo de IA con colaboración simplificada para los equipos de proyectos y paneles integrados de monitoreo e informes.

Base Command funciona con la suite de software NVIDIA AI Enterprise, que ahora se incluye con cada sistema DGX. El software de IA de NVIDIA permite el desarrollo y la implementación integrales de IA con herramientas de IA y ciencia de datos compatibles, frameworks optimizados y modelos previamente entrenados.

Además, ofrece administración de workflows empresariales e integraciones con los proveedores DGX-Ready Software Domino Data Lab, Run.ai, Weights & Biases y Rescale, miembro del programa NVIDIA Inception. También incluye bibliotecas que optimizan y aceleran la infraestructura de computación, almacenamiento y red, al tiempo que garantiza el máximo tiempo de actividad, seguridad y confiabilidad del sistema.

Nueva Arquitectura de Referencia DGX BasePOD

DGX BasePOD proporciona una arquitectura de referencia para sistemas DGX que incorpora las mejores prácticas de diseño para integrar computación, redes, almacenamiento y software.

Los clientes ya están utilizando NVIDIA DGX POD para impulsar el desarrollo de una amplia gama de aplicaciones empresariales. DGX BasePOD se basa en el éxito de DGX POD con nuevas soluciones de la industria orientadas a las mayores oportunidades de IA, incluido el procesamiento de idiomas naturales, la atención de la salud y las ciencias naturales, y la detección de fraudes.

Las soluciones DGX BasePOD se entregan como ofertas totalmente integradas y listas para implementar a través de la Red de Socios de NVIDIA, desde dos hasta cientos de sistemas DGX, con almacenamiento certificado de alto rendimiento de los socios de tecnología de almacenamiento NVIDIA DGX, incluidos DDN, Dell, NetApp, Pure Storage, VAST Data y WEKA.

Los Líderes Impulsan los Avances en IA con los Sistemas DGX

Las empresas de todo el mundo eligen los sistemas NVIDIA DGX para impulsar sus cargas de trabajo de IA más avanzadas. Entre los innovadores de IA que desarrollan capacidades de IA de misión crítica en los sistemas DGX A100:

  • Adept, el laboratorio de productos e investigación de ML, está desarrollando un compañero de equipo de IA impulsado por un gran modelo de lenguaje prototipo en NVIDIA DGX Foundry y, luego, se escala con las GPU NVIDIA A100 y NVIDIA Megatron en Oracle Cloud Infrastructure.
  • Hyundai Motor Group usa DGX SuperPOD de 40 nodos para explorar las cargas de trabajo de IA de hiperescalabilidad.
  • La empresa de telecomunicaciones KT está desarrollando un LLM con alrededor de 40,000 millones de parámetros para una variedad de aplicaciones del idioma coreano, incluido el altavoz inteligente GiGA Genie, utilizando el framework NVIDIA NeMo Megatron, NVIDIA DGX SuperPOD y el software NVIDIA Base Command.
  • La Universidad de Wisconsin-Madison está llevando rápidamente la IA a los dispositivos de imágenes médicas utilizando sistemas NVIDIA DGX con la plataforma de investigación Flywheel y el framework de aplicaciones de atención de la salud NVIDIA Clara. Mediante el Entorno de Ejecución de Aplicaciones de Aprendizaje Federado de NVIDIA, o NVIDIA FLARE, en colaboración con otros hospitales, la universidad entrena de forma segura modelos de IA en sistemas DGX para la generación, anotación y clasificación de imágenes médicas.

Para obtener más información sobre los avances de IA impulsados por los sistemas NVIDIA DGX, mira la repetición del discurso destacado de GTC a cargo Jensen Huang, fundador y CEO de NVIDIA. Además, únete a la sesión de GTC, «Diseñar tu Centro de Excelencia de IA«, junto a Charlie Boyle, vicepresidente de sistemas DGX de NVIDIA.