Un fuerte aumento en las implementaciones de IA generativa está impulsando la innovación empresarial para las empresas de todos los sectores. Pero también plantea desafíos significativos para sus equipos de TI, ya que las ralentizaciones de los ciclos de implementación de infraestructura largos y complejos les impiden poner en marcha rápidamente cargas de trabajo de IA utilizando sus propios datos.
Para ayudar a superar estas barreras, NVIDIA ha introducido un programa de validación de socios de almacenamiento para los Sistemas de Computación NVIDIA OVX. Los sistemas de almacenamiento de alto rendimiento que lideran la validación del almacenamiento NVIDIA OVX son DDN, Dell PowerScale, NetApp, Pure Storage y WEKA.
Los servidores NVIDIA OVX combinan computación de alto rendimiento acelerada por GPU con acceso a almacenamiento de alta velocidad y redes de baja latencia para abordar una variedad de cargas de trabajo complejas de IA y uso intensivo de gráficos. Los chatbots, las herramientas de resumen y búsqueda, por ejemplo, requieren grandes cantidades de datos, y el almacenamiento de alto rendimiento es fundamental para maximizar el rendimiento del sistema.
Para ayudar a las empresas a emparejar el almacenamiento adecuado con los servidores OVX certificados por NVIDIA, el nuevo programa proporciona un proceso estandarizado para que los socios validen sus dispositivos de almacenamiento. Pueden usar el mismo framework y las mismas pruebas que se necesitan para validar el almacenamiento para la arquitectura de referencia NVIDIA DGX BasePOD.
Para lograr la validación, los socios deben completar un conjunto de pruebas de NVIDIA que miden el rendimiento del almacenamiento y el escalado de entrada/salida a través de múltiples parámetros que representan los exigentes requisitos de varias cargas de trabajo de IA empresarial. Esto incluye combinaciones de diferentes tamaños de E/S, número variable de subprocesos, E/S almacenadas en búfer frente a E/S directas, lecturas aleatorias, relecturas y mucho más.
Cada prueba se ejecuta varias veces para verificar los resultados y recopilar los datos necesarios, que luego son auditados por los equipos de ingeniería de NVIDIA para determinar si el sistema de almacenamiento ha pasado.
El programa ofrece orientación prescriptiva para garantizar un rendimiento de almacenamiento óptimo y escalabilidad para cargas de trabajo de IA empresarial con sistemas NVIDIA OVX. Pero el diseño general sigue siendo flexible, por lo que los clientes pueden adaptar sus opciones de sistema y almacenamiento para que se ajusten a sus entornos de data centers existentes y llevar la computación acelerada a donde sea que residan sus datos.
Los casos de uso de IA generativa tienen requisitos fundamentalmente diferentes a los de las aplicaciones empresariales tradicionales, por lo que los equipos de TI deben considerar cuidadosamente sus opciones de cómputo, redes, almacenamiento y software para garantizar un alto rendimiento y escalabilidad.
Los Sistemas Certificados por NVIDIA se prueban y validan para proporcionar rendimiento, capacidad de gestión, seguridad y escalabilidad de nivel empresarial para cargas de trabajo de IA. Sus arquitecturas de referencia flexibles ayudan a ofrecer implementaciones más rápidas, eficientes y rentables que la construcción independiente desde cero.
Equipados con GPU NVIDIA L40S, los servidores OVX incluyen el software NVIDIA AI Enterprise con redes NVIDIA Quantum-2 InfiniBand o NVIDIA Spectrum-X Ethernet, así como DPU NVIDIA BlueField-3. Están optimizados para cargas de trabajo de IA generativa, incluido el entrenamiento para LLM más pequeños (por ejemplo, Llama 2 7B o 70B), el ajuste de los modelos existentes y la inferencia con alto rendimiento y baja latencia.
Los servidores OVX certificados por NVIDIA ya están disponibles y se envían a través de proveedores de sistemas globales, incluidos GIGABYTE, Hewlett Packard Enterprise y Lenovo. Cada fabricante de sistemas, en colaboración con NVIDIA, proporciona un soporte integral de nivel empresarial para estos servidores.
Disponibilidad
Las soluciones de almacenamiento validadas para los servidores OVX certificados por NVIDIA ya están disponibles, y cada uno de los proveedores de almacenamiento y sistemas publicará arquitecturas de referencia en las próximas semanas. Obtén más información sobre los sistemas NVIDIA OVX.