Cómo las PCs y Workstations NVIDIA RTX AI aprovechan la nube para potenciar la IA generativa

Las herramientas y tecnologías de NVIDIA basadas en IA soportan workflows híbridos de IA.
por lmachado

Nota del editor: Este post forma parte de la serie IA Decodificada, que desmitifica la IA haciendo que la tecnología sea más accesible, y muestra nuevo hardware, software, herramientas y aceleraciones para los usuarios de PC y workstation GeForce RTX.

La IA Generativa ofrece nuevas posibilidades a las aplicaciones y juegos de Windows. Permite crear NPC dinámicos y sin un guion, que los creadores generen nuevas obras de arte y que los jugadores aumenten hasta 4 veces la velocidad de fotogramas por segundo. Pero esto es sólo el principio.

A medida que crecen las capacidades y los casos de uso de la IA generativa, también lo hace la demanda de computación para respaldarla.

Hybrid AI combina la aceleración de IA integrada de NVIDIA RTX con GPUs escalables basadas en la nube para satisfacer con eficacia y eficiencia las demandas de los workflows de IA.

IA híbrida, una historia de amor

Con la creciente adopción de la IA, los desarrolladores de aplicaciones buscan opciones de despliegue: La IA que se ejecuta localmente en las GPUs RTX ofrece alto rendimiento y baja latencia, y está siempre disponible, incluso cuando no está conectada a Internet. Por otro lado, la IA que se ejecuta en la nube puede ejecutar modelos más grandes y escalarse a través de muchas GPUs, atendiendo a múltiples clientes de forma simultánea. En muchos casos, una misma aplicación utilizará ambas.

La IA híbrida es una especie de mediadora que armoniza la informática local de PC y workstation con la escalabilidad de la nube. Proporciona la flexibilidad necesaria para optimizar las cargas de trabajo de IA en función de casos de uso, costes y rendimiento específicos. Ayuda a los desarrolladores a garantizar que las tareas de IA se ejecutan donde tiene más sentido para sus aplicaciones específicas.

Tanto si la IA se procesa localmente como en la nube, se acelera mediante las GPUs NVIDIA y la serie de aplicaciones de IA de NVIDIA, que incluye TensorRT y TensorRT-LLM. Eso significa menos tiempo mirando ruedas de molino de la muerte y más oportunidades para ofrecer servicios de vanguardia. .

Una serie de herramientas y tecnologías de NVIDIA respaldan los workflows de IA híbrida para creadores, jugadores y desarrolladores.

Sueña en la Nube, Hazlo Realidad en RTX

La IA generativa ha demostrado su capacidad para ayudar a los artistas a idear, crear prototipos y aportar ideas para nuevas creaciones. Una de estas soluciones, Generative AI by iStock, basada en la nube y desarrollada por NVIDIA Edify, es un servicio de fotografía generativa creado para y con artistas, que se entrena únicamente con contenidos bajo licencia y ofrece una retribución a los artistas colaboradores.

La IA Generativa de iStock va más allá de la generación de imágenes, ya que proporciona a los artistas amplias herramientas para explorar estilos, variaciones, modificar partes de una imagen o ampliar el lienzo. Con todas estas herramientas, los artistas pueden idear numerosas veces y aun así dar vida a las ideas rápidamente.

Una vez que el concepto creativo está listo, los artistas pueden llevarlo a sus sistemas locales. Las PCs y workstations equipadas con RTX ofrecen a los artistas aceleración de IA en más de 125 de las principales aplicaciones creativas para hacer realidad la visión completa, ya se trate de crear una obra de arte asombrosa en Photoshop con herramientas locales de IA, animar la imagen con un efecto de paralaje en DaVinci Resolve o construir una escena 3D con la imagen de referencia en Blender con aceleración de ray tracing y eliminación de ruido mediante IA en Optix.

Hybrid ACE da Vida a los NPC

Con NVIDIA ACE, la IA híbrida también abre un nuevo mundo de juegos interactivos para PC, lo que permite a desarrolladores de juegos y creadores digitales integrar modelos de IA generativa de última generación en avatares digitales en PCs RTX IA.

Gracias a las redes neuronales de IA, NVIDIA ACEpermite a desarrolladores y diseñadores crear personajes no jugables («NPCs») capaces de entender y responder al texto y el habla de los jugadores. Aprovecha los modelos de IA, incluidos los modelos de conversión de voz a texto para manejar el lenguaje natural hablado en voz alta, para generar las respuestas de los NPCs en tiempo real.

Una Herramienta Híbrida para Desarrolladores que Funciona en Cualquier Lugar

Hybrid también ayuda a los desarrolladores a crear y ajustar nuevos modelos de IA. NVIDIA AI Workbench ayuda a los desarrolladores a crear, probar y personalizar rápidamente modelos generativos de IA y LLM previamente entrenados en las GPUs RTX. Ofrece acceso simplificado a repositorios populares como Hugging Face, GitHub y NVIDIA NGC, junto con una interfaz de usuario simplificada que permite a los científicos de datos y desarrolladores reproducir, colaborar y migrar proyectos con facilidad.

Los proyectos pueden ampliarse fácilmente cuando se necesite más rendimiento, ya sea en el centro de datos, en una nube pública o en NVIDIA DGX Cloud, y luego volver a los sistemas RTX locales en un PC o workstation para realizar inferencia y una ligera personalización. Los científicos de datos y los desarrolladores pueden aprovechar los proyectos preconfigurados de Workbench para conversar con documentos mediante la generación aumentada por recuperación (RAG), personalizar los LLM mediante ajuste fino, acelerar las cargas de trabajo de ciencia de datos con transiciones fluidas de CPU a GPU y mucho más.

El proyecto Hybrid RAG Workbench proporciona una aplicación RAG personalizable que los desarrolladores pueden ejecutar y adaptar ellos mismos. Pueden incrustar sus documentos localmente y ejecutar la inferencia en un sistema RTX local, un endpoint en la nube alojado en el catálogo de API de NVIDIA o utilizando microservicios NVIDIA NIM El proyecto puede adaptarse para utilizar varios modelos, terminales y contenedores, y ofrece a los desarrolladores la posibilidad de cuantificar los modelos para ejecutarlos en la GPU de su elección.

Las GPUs NVIDIA impulsan extraordinarias soluciones de IA localmente en PCs NVIDIA GeForce RTX y workstations RTX y en la nube. Creadores, jugadores y desarrolladores pueden obtener lo mejor de ambos mundos con crecientes workflows híbridos de IA.

La IA generativa está transformando los juegos, las videoconferencias y las experiencias interactivas de todo tipo. Entérate de las novedades y lo que está por venir suscribiéndote al boletín IA Descodificada.