IA, la tecnología más poderosa de nuestro tiempo, exige una nueva generación de vehículos probados y configurados para impulsarla.
Desde el lunes pasado, 25 de Enero, los data centers pueden aprovechar una nueva clase de servidores acelerados de parte de nuestros socios para impulsar sus procesos de IA y análisis de datos. Los principales fabricantes de sistemas están distribuyendo la primera tanda de Sistemas Certificados por NVIDIA, los únicos servidores de la industria probados para las cargas de trabajo modernas.
Estos sistemas aceleran la IA gracias a las GPU más recientes de NVIDIA que aprovechan las redes NVIDIA Mellanox. Aprovechan las tecnologías de machine learning que descubren información a partir de los crecientes conjuntos de datos corporativos. Esto son resultados valiosos que los sistemas tradicionales pasan por alto.
Dell Technologies, GIGABYTE, Hewlett Packard Enterprise (HPE), Inspur y Supermicro ya están distribuyendo servidores certificados. NVIDIA colabora con los principales fabricantes de equipos originales del mundo para impulsar la IA en todas las industrias.
Los primeros sistemas fuera de línea que utilizan las GPU NVIDIA A100 Tensor Core son los siguientes:
- Los servidores de rack Dell EMC PowerEdge R7525 y R740
- Los sistemas GIGABYTE R281-G30, R282-Z96, G242-Z11, G482-Z54 y G492-Z51
- El sistema HPE Apollo 6500 Gen10 y el servidor HPE ProLiant DL380 Gen10
- Inspur NF5488A5
- Los servidores Supermicro A+ AS -4124GS-TNR, AS -2124GQ-NART y AS -4124GO-NART
Todos llevan la insignia de sistemas certificados por NVIDIA que les da a los clientes la confianza de que están comprando sistemas que cumplen con las mejores prácticas de diseño de NVIDIA. Eso significa que pueden abordar las tareas más difíciles de machine learning, análisis de datos y más.
Un Punto de Inflexión para la IA Empresarial
Los sistemas llegan a medida que las corporaciones líderes están ganando terreno en la IA.
American Express utiliza los últimos modelos de IA para la detección de fraudes en tiempo real. Ford aprovecha las redes generativas adversarias con el objetivo de generar los datos que necesita para probar los automóviles de conducción autónoma. Domino’s aplica la IA para mejorar las predicciones de cuándo estarán listos los pedidos de las 3,000 millones de pizzas que entrega cada año.
Estas son algunas de las muchas empresas que se conectan a una nueva y poderosa forma de computación, nacida en la web y que ahora se expande a sectores que van desde el comercio minorista y la logística hasta la banca y la atención de la salud.
Gartner estima que el 37 por ciento de todas las organizaciones utilizan la IA en producción hoy en día y predice que esta cifra crecerá al 75 por ciento para el 2024.
Escalar una Montaña de Big Data
Las empresas buscan conocimientos estratégicos ocultos en una montaña creciente de datos. Walmart, por ejemplo, procesa la increíble cantidad de 2.5 petabytes de datos cada hora.
Los modelos de IA para analizar esos datos han crecido en tamaño casi 3000 veces en solo cinco años, lo que impulsa la necesidad de contar con la computación acelerada. Además, la diversidad de modelos y cargas de trabajo que los utilizan continúa expandiéndose, por lo que las empresas necesitan la flexibilidad de las GPU.
La creciente marea de datos y los modelos de IA en expansión para analizarlos están generando un aumento exponencial en el tráfico de red tanto en el data center como en el edge de la red. Para hacer frente a este desafío, las empresas necesitan una infraestructura segura, confiable y de alta velocidad que se amplíe de manera eficiente.
Superar con Creces la Prueba de IA
Los Sistemas Certificados por NVIDIA brindan el rendimiento, la capacidad de programación y la tasa de transferencia segura que la IA empresarial necesita. Combinan la potencia de computación de las GPU basadas en la arquitectura NVIDIA Ampere con las redes NVIDIA Mellanox seguras y de alta velocidad.
Para aprobar la certificación, los sistemas se prueban en una amplia gama de cargas de trabajo, desde trabajos que requieren múltiples nodos de computación hasta tareas que solo necesitan parte de la potencia de una sola GPU.
Los sistemas están optimizados para ejecutar aplicaciones de IA del catálogo NGC, el centro de NVIDIA para aplicaciones optimizadas para GPU.
NGC es también el hogar de un creciente grupo de conjuntos de desarrollo de software, que suman la IA en mercados específicos, como la atención de la salud (Clara) y la robótica (Isaac). Además, cuenta con frameworks que ayudan a las empresas a dar sus primeros pasos con los casos de uso emergentes, como los sistemas de recomendación (Merlin) y el análisis de videos inteligente (Metropolis).
Específicamente, los sistemas certificados por NVIDIA deben aprobar pruebas en los siguientes ámbitos:
- Entrenamiento e inferencia de deep learning
- Algoritmos de machine learning
- Análisis de videos inteligente
- Descarga de red y almacenamiento
Las pruebas se centran en casos de uso del mundo real. Usan frameworks y contenedores de IA populares, todos disponibles en el catálogo de NGC.
Como resultado, los sistemas certificados por NVIDIA permiten que todas las empresas accedan al mismo hardware y software que potencian algunas de las computadoras de IA más poderosas del planeta.
Todos los proveedores de servicios de cloud más grandes del mundo y ocho de las 10 mejores supercomputadoras del mundo funcionan con tecnología de NVIDIA. Además, los sistemas basados en NVIDIA lideran las evaluaciones de IA como MLPerf.
Un Vistazo Detrás de Bastidores
Los Sistemas Certificados por NVIDIA incluyen potentes servidores de data centers con hasta ocho GPU A100 y adaptadores de red Ethernet o InfiniBand de alta velocidad. Otros son sistemas de IA convencionales diseñados para ejecutar la IA en el edge de redes corporativas.
Los fabricantes de equipos originales certifican los sistemas que usan cables, switches y tarjetas de red NVIDIA Mellanox, como los adaptadores ConnectX-6 InfiniBand o Ethernet y las DPU BlueField-2. Además de ofrecer una tasa de transferencia alta con baja latencia, estos adaptadores admiten múltiples capas de seguridad, desde una raíz de confianza de hardware en el momento del arranque hasta el seguimiento de la conexión de las aplicaciones.
Cada sistema está certificado para usar un switch NVIDIA Mellanox 8700 HDR 200G InfiniBand o el switch Mellanox SN3700 Ethernet.
Todos los sistemas certificados por NVIDIA están disponibles con apoyo empresarial en toda la pila de componentes de software y hardware, incluido el código fuente abierto. Esto se debe a que queremos asegurarnos de que las empresas de todos los mercados específicos puedan disfrutar rápidamente de los beneficios de la IA.
Con los últimos sistemas de Dell Technologies, HPE, y Supermicro, cada empresa puede iniciar su propio proceso de la IA empresarial.
A la fecha, 14 servidores de seis fabricantes de sistemas están certificados y listos para proporcionar computación acelerada. Son unos de los casi 70 sistemas que ofrecen al menos once de los fabricantes de sistemas que participan en el programa.
No te pierdas las noticias sobre más sistemas certificados por NVIDIA de más socios.