Un agente solo es útil en la medida de lo que sabe, y solo es confiable en la medida de los límites dentro de los cuales se ejecuta.
Grandes empresas usan NVIDIA Agent Toolkit, open source y ahora ampliado con nuevas herramientas, para personalizar y controlar agentes, usar los datos de la propia empresa para informar respuestas y acciones, monitorear lo que hacen y gobernar cómo operan.
NVIDIA Agent Toolkit está formado por:
- El nuevo NVIDIA Agent Knowledge Foundation, con las bibliotecas NVIDIA CUDA-X
- Modelos abiertos de NVIDIA, entre ellos Nemotron Retriever y la nueva familia Kumo
- NVIDIA OpenShell, el runtime seguro de agentes
- NVIDIA NemoClaw, los blueprints de agentes seguros
- Herramientas y skills, como NeMo Relay y NeMo Compass
Para desarrollar agentes que resuelvan trabajo real y sean confiables desde el desarrollo hasta el despliegue, quienes construyen necesitan un stack de agentes abierto, que reúna modelos, harness, runtime, datos y herramientas.
NVIDIA Agent Knowledge Foundation ayuda a la empresa a convertir los datos en inteligencia corporativa que el agente puede usar. El agente encuentra la información relevante, entiende lo que significa para el negocio y la usa para hacer predicciones y ayudar a las personas a decidir el siguiente paso. Es posible usar Agent Knowledge Foundation sin mover los datos, sin rehacer los flujos de trabajo existentes y sin cambiar los controles de gobernanza.
La base trae las bibliotecas NVIDIA CUDA-X, entre ellas cuDF, cuGraph, cuML, cuOpt y cuVS, y la nueva biblioteca Auto-Ontology, que traduce el dato bruto de la empresa en conceptos de negocio conocidos, como clientes, productos y pedidos, y mapea la relación entre ellos.
También incluye los modelos abiertos NVIDIA Nemotron Retriever y Kumo Structured, es decir, Kumo Tabular, Kumo Relational, Kumo Time Series y Kumo Forecast, que ayudan al agente a encontrar la información relevante de la empresa para responder preguntas y hacer predicciones.
OpenShell entrega la frontera segura de runtime, lo que da a la empresa control sobre lo que el agente puede acceder y hacer. Los blueprints de NVIDIA NemoClaw traen diseños de referencia para construir agentes seguros y especializados. El blueprint más reciente de NemoClaw para optimización de agentes es un punto de partida paso a paso para mejorar la inteligencia del agente, y lo vuelve mejor en su propio trabajo con el tiempo.
Las empresas adoptan NVIDIA Agent Knowledge Foundation
El nuevo NVIDIA Agent Knowledge Foundation ya está en uso en varias empresas.
Con Palantir, la organización de supply chain de NVIDIA usa Agent Knowledge Foundation a través de Palantir Foundry, Ontology y AIP para implementar agentes especializados, generar inteligencia accionable a partir de datos propietarios, predecir resultados y optimizar la toma de decisiones.
Databricks combina NVIDIA Kumo Anomaly con Databricks Genie Ontology para alimentar agentes sensibles al contexto.
Snowflake permite que sus clientes usen NVIDIA Kumo Engine y los modelos abiertos Kumo Relational dentro del entorno Snowflake Notebook, para desbloquear más capacidad predictiva.
Los modelos NVIDIA Nemotron Retriever hacen la búsqueda más rápida y más precisa. Con el modelo de embedding, Amazon OpenSearch Service mejoró la relevancia con menos pasos de búsqueda y prácticamente sin latencia adicional. El reranker ajustado por fine-tuning de SAP quedó casi 3x más rápido. ServiceNow mejoró la calidad del reranking y recortó la latencia en casi un cuarto. Zoom usa los modelos Nemotron Retriever para mejorar la comprensión de documentos, la relevancia de búsqueda y la recuperación de contexto en Zoom AI Services.
Amazon Web Services (AWS), ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst y VAST Data también están entre las empresas que construyen sobre Agent Knowledge Foundation.