NVIDIA ha presentado en enero NVIDIA® Project DIGITS, una supercomputadora personal de IA que proporciona a los investigadores, científicos de datos y estudiantes de IA de todo el mundo acceso a la potencia de la plataforma NVIDIA Grace Blackwell.
Project DIGITS cuenta con el nuevo superchip NVIDIA GB10 Grace Blackwell, que ofrece un petaflop de rendimiento de computación de IA para la creación de prototipos, el ajuste y la ejecución de grandes modelos de IA.
Con Project DIGITS, los usuarios pueden desarrollar y ejecutar inferencias en modelos utilizando su propio sistema de escritorio, y luego implementar sin problemas los modelos en la nube acelerada o en la infraestructura del data center.
«La IA será la corriente principal en todas las aplicaciones para todas las industrias. Con Project DIGITS, el superchip Grace Blackwell llega a millones de desarrolladores», dijo Jensen Huang, fundador y CEO de NVIDIA. «Colocar una supercomputadora de IA en los escritorios de todos los científicos de datos, investigadores y estudiantes de IA les permite participar y dar forma a la era de la IA».
El Superchip GB10 Proporciona Un Petaflop de Rendimiento de IA Eficiente en el Uso de la Energía
El superchip GB10 es un sistema en un chip (SoC) basado en la arquitectura NVIDIA Grace Blackwell y ofrece hasta 1 petaflop de rendimiento de IA con precisión FP4.
GB10 cuenta con una GPU NVIDIA Blackwell con núcleos CUDA® de última generación y Núcleos Tensor de quinta generación, conectado a través de interconexión NVLink®-C2C de chip a chip a una CPU NVIDIA Grace™ de alto rendimiento, que incluye 20 núcleos de bajo consumo construidos con la arquitectura Arm. MediaTek, líder del mercado en diseños de SoC basados en Arm, colaboró en el diseño de GB10, contribuyendo a su mejor eficiencia energética, rendimiento y conectividad.
El superchip GB10 permite que Project DIGITS ofrezca un rendimiento potente utilizando solo una toma de corriente estándar. Cada Project DIGITS cuenta con 128GB de memoria unificada y coherente y hasta 4TB de almacenamiento NVMe. Con la supercomputadora, los desarrolladores pueden ejecutar modelos de lenguaje de hasta 200.000 millones de parámetros para potenciar la innovación de la IA. Además, mediante el uso de las redes NVIDIA ConnectX®, se pueden vincular dos supercomputadoras Project DIGITS AI para ejecutar modelos de hasta 405 mil millones de parámetros.
Grace Blackwell: La Supercomputación con IA a Nuestro Alcance
Con la arquitectura de Grace Blackwell, las empresas y los investigadores pueden crear prototipos, ajustar y probar modelos en sistemas locales de Project DIGITS que ejecutan el sistema operativo NVIDIA DGX basado en Linux, y luego implementarlos sin problemas en NVIDIA DGX Cloud™, instancias de nube aceleradas o infraestructura de data center.
Esto permite a los desarrolladores crear prototipos de IA en Project DIGITS y luego escalar en la nube o en la infraestructura del data center, utilizando la misma arquitectura Grace Blackwell y la plataforma de software NVIDIA AI Enterprise.
Los usuarios de Project DIGITS pueden acceder a una amplia biblioteca de software de IA de NVIDIA para experimentación y creación de prototipos, incluidos kits de desarrollo de software, herramientas de orquestación, frameworks y modelos disponibles en el catálogo de NVIDIA NGC y en el portal para desarrolladores de NVIDIA. Los desarrolladores pueden ajustar los modelos con el framework NVIDIA NeMo™, acelerar la ciencia de datos con las bibliotecas de NVIDIA RAPIDS™ y ejecutar frameworks comunes como PyTorch, Python y Jupyter Notebooks.
Para crear aplicaciones de agentes de IA, los usuarios también pueden aprovechar los microservicios NVIDIA Blueprints y NVIDIA NIM™, que están disponibles para investigación, desarrollo y pruebas a través del Programa para Desarrolladores de NVIDIA. Cuando las aplicaciones de IA están listas para pasar de los entornos de experimentación a los de producción, la licencia NVIDIA AI Enterprise proporciona seguridad, soporte y versiones de productos de nivel empresarial del software de IA de NVIDIA.
Disponibilidad
Project DIGITS estará disponible en mayo a través de NVIDIA y los principales socios, a partir de $ 3,000. Regístrese para recibir notificaciones hoy mismo.