NVIDIA anunció NVIDIA DGX Cloud Lepton™, una plataforma de IA con un mercado de cómputo que conecta a los desarrolladores de todo el mundo que crean aplicaciones de IA físicas y basadas en agentes con decenas de miles de GPU, disponibles en una red global de proveedores de nube.
Para satisfacer la demanda de IA, los socios de NVIDIA Cloud (NCP), incluidos CoreWeave, Crusoe, Firmus, Foxconn, GMI Cloud, Lambda, Nebius, Nscale, Softbank Corp. y Yotta Data Services, ofrecerán NVIDIA Blackwell y otras GPU de arquitectura NVIDIA en el mercado DGX Cloud Lepton.
Los desarrolladores pueden aprovechar la capacidad de cómputo de la GPU en regiones específicas para la computación bajo demanda y a largo plazo, lo que respalda los requisitos operativos estratégicos y IA soberana. Se espera que los principales proveedores de servicios en la nube y mercados de GPU también participen en el mercado DGX Cloud Lepton.
«NVIDIA DGX Cloud Lepton conecta nuestra red de proveedores globales de GPU en la nube con los desarrolladores de IA», dijo Jensen Huang, fundador y CEO de NVIDIA. «Junto con nuestros NCP, estamos construyendo una fábrica de IA a escala planetaria».
DGX Cloud Lepton ayuda a abordar el desafío crítico de proteger los recursos de GPU confiables y de alto rendimiento al unificar el acceso a los servicios de IA en la nube y la capacidad de GPU en todo el ecosistema de cómputo de NVIDIA. La plataforma se integra con la pila de software de NVIDIA, que incluye los microservicios NVIDIA NIM™ y Nemo™, NVIDIA Blueprints y Funciones en NVIDIA Cloud, para acelerar y simplificar el desarrollo y el despliegue de aplicaciones de IA.
Para los proveedores de nube, DGX Cloud Lepton proporciona software de gestión que ofrece diagnósticos del estado de la GPU en tiempo real y automatiza el análisis de la causa raíz, eliminando las operaciones manuales y reduciendo el tiempo de inactividad.
Los beneficios clave de la plataforma incluyen:
- Productividad y flexibilidad mejoradas: Ofrece una experiencia unificada en el desarrollo, la formación y la inferencia, lo que ayuda a aumentar la productividad. Los desarrolladores pueden comprar capacidad de GPU directamente de los proveedores de nube participantes a través del mercado o traer sus propios clústeres de cómputo, lo que les brinda mayor flexibilidad y control.
- Implementación sin fricciones: permite la implementación de aplicaciones de IA en entornos híbridos y multinube con una carga operativa mínima, utilizando servicios integrados para cargas de trabajo de inferencia, prueba y entrenamiento.
- Agilidad y soberanía: proporciona a los desarrolladores acceso rápido a los recursos de GPU en regiones específicas, lo que permite el cumplimiento de las regulaciones de soberanía de datos y cumple con los requisitos de baja latencia para cargas de trabajo confidenciales.
- Rendimiento predecible: proporciona a los proveedores de nube participantes rendimiento, confiabilidad y seguridad de nivel empresarial, lo que garantiza una experiencia de usuario consistente.
Un Nuevo Estándar para el Rendimiento de la Nube de IA
NVIDIA también anunció NVIDIA Exemplar Clouds para ayudar a los NCP a mejorar la seguridad, la usabilidad, el rendimiento y la resiliencia, utilizando la experiencia, el hardware y el software de referencia y las herramientas operativas de NVIDIA.
NVIDIA Exemplar Clouds aprovecha NVIDIA DGX™ Cloud Benchmarking, un conjunto completo de herramientas y recetas para optimizar el rendimiento de las cargas de trabajo en plataformas de IA y cuantificar la relación entre el costo y el rendimiento.
Yotta Data Services es el primer NCP en la región de Asia-Pacífico en unirse a la iniciativa NVIDIA Exemplar Cloud.
Disponibilidad
Los desarrolladores pueden registrarse para obtener acceso anticipado a NVIDIA DGX Cloud Lepton.