Resumen de la noticia:
- NVIDIA Open Agent Safety Platform está formada por el software de código abierto NVIDIA OpenShell y la arquitectura de referencia NVIDIA Sentry, que, en conjunto, permiten gobernanza y control en todo el stack: en el software y en los sistemas de hardware, cómputo y robótica que ejecutan agentes.
- El software OpenShell ofrece un límite seguro de runtime que rastrea todas las acciones y aplica políticas mientras los agentes se ejecutan en las CPU NVIDIA Vera. Al ser de código abierto, OpenShell puede extenderse para funcionar con plataformas de cómputo de terceros, incluidas las de Arm e Intel.
- Sentry agrega un watchdog fuera de banda, que se ejecuta en las DPU NVIDIA BlueField-4 para monitorear el comportamiento de los agentes de forma continua. Sentry puede poner en cuarentena, en milisegundos, a los agentes que intenten salir de sus límites.
- Líderes del ecosistema de IA, entre ellos Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow y SpaceXAI, se están sumando a NVIDIA para reforzar la seguridad de la IA en todos los sectores, a lo largo de todo el stack de infraestructura, software, modelos y robótica.
NVIDIA anunció NVIDIA Open Agent Safety Platform, una plataforma de software abierta y una arquitectura de referencia para fortalecer la seguridad de la IA, desde la prueba del agente hasta el despliegue, con gobernanza y control en todo el stack, en el software y en los sistemas de hardware, cómputo y robótica que ejecutan agentes.
Incidentes recientes de seguridad dejaron clara la necesidad de equipar a las organizaciones con herramientas abiertas y personalizables, capaces de imponer más control sobre agentes de larga duración. En todos esos incidentes el patrón es el mismo: el agente eludió los controles de seguridad en la capa de aplicación para completar la tarea que había recibido.
«El potencial extraordinario de la IA para la sociedad solo se va a concretar si resolvemos la seguridad de la IA», declaró Jensen Huang, fundador y CEO de NVIDIA. «A medida que seguimos descubriendo la frontera de las capacidades de la IA, necesitamos acelerar el descubrimiento en la frontera de la seguridad de la IA. La seguridad exige ingeniería en todo el stack. NVIDIA Open Agent Safety Platform reúne a la industria, a investigadores y a organizaciones del sector público para compartir buenas prácticas, alinear métodos de evaluación e impulsar la cooperación internacional. En conjunto, podemos elevar el estándar de la seguridad de la IA en el mundo.»
Open Agent Safety Platform Agrega Control en Todo el Stack de Agentes
NVIDIA Open Agent Safety Platform permite gobernanza y control en todo el stack: en el software que ejecuta los agentes, en las capas de hardware y cómputo que sostienen su trabajo y en los sistemas de robótica que realizan tareas en el mundo físico. Las organizaciones pueden adoptar partes de NVIDIA Open Agent Safety Platform según sus propias necesidades.
La plataforma incluye el software de runtime seguro NVIDIA OpenShell™, que define límites para los agentes que se ejecutan en CPU. A medida que los agentes asumen más trabajo en más sistemas, las empresas necesitan un límite aplicable fuera del modelo y del harness del agente. Ya ampliamente disponible, OpenShell ofrece un límite seguro de runtime para controlar cómo los agentes de IA autónomos realizan tareas, en modelos abiertos y cerrados.
OpenShell entrega esa protección con una sobrecarga mínima en NVIDIA Vera, la primera CPU creada específicamente para IA basada en agentes. En conjunto, OpenShell y Vera permiten que los agentes operen de forma segura mientras completan su trabajo lo más rápido posible. Al ser software de código abierto, OpenShell también puede extenderse para funcionar con plataformas de cómputo de terceros, incluidas las de Arm e Intel.
La arquitectura de referencia NVIDIA Open Agent Safety Platform incorpora NVIDIA Sentry, un watchdog fuera de banda que se ejecuta en las DPU NVIDIA BlueField®-4 para monitorear de forma continua el comportamiento de los agentes. Sentry aplica la seguridad en el propio silicio, es decir, si un agente de IA intenta salir de su límite definido en software, Sentry lo pone en cuarentena y lo detiene en milisegundos.
Al ejecutarse en las DPU BlueField-4, Sentry monitorea la actividad de los agentes de forma continua y aplica políticas de seguridad de manera independiente, en el silicio. Combina detección de amenazas, gobernanza de agentes y aplicación de políticas, ambas basadas en hardware, y protección de acceso a datos desde un dominio de confianza aislado y fuera de banda, que responde en tiempo real y es invisible para agentes y atacantes.
Sentry está construido sobre el software NVIDIA DOCA™, que aporta las capacidades programables que Sentry usa para inspeccionar las solicitudes y respuestas de los agentes, entregar telemetría atestiguada, verificar la identidad del agente y aplicar políticas granulares de acceso zero trust a datos, herramientas, interfaces de programación de aplicaciones y servicios.
Líderes de la Industria Refuerzan la Seguridad de Agentes con NVIDIA
Anthropic y NVIDIA colaboraron para aportar capas adicionales de seguridad y control al stack de agentes. Claude Managed Agents establece un límite de seguridad al ejecutar el loop del agente en un servidor separado de los sandboxes donde se realiza el trabajo. Las integraciones con OpenShell y BlueField permiten a las empresas aplicar un control estricto sobre el acceso de los agentes a través de esos sandboxes.
«Las empresas están entregando a los agentes de IA una parte cada vez mayor de su trabajo más importante, y necesitan dirigir y verificar lo que esos agentes hacen, sobre todo en entornos sensibles», declaró Paul Smith, director comercial de Anthropic. «Claude Managed Agents da a las empresas una visión clara de lo que hace cada agente, y la plataforma de NVIDIA agrega otra capa de gobernanza y control en hardware y software.»
SpaceXAI está usando NVIDIA Open Agent Safety Platform para los agentes de programación de Cursor y los modelos Grok.
«A medida que los clientes dependen más de los agentes para hacer trabajo real, la seguridad debe aplicarse fuera del modelo, mediante controles adicionales que el agente no pueda eludir», declaró Mike Nicolls, presidente de SpaceXAI. «Los clientes deben poder fijar esos límites para Cursor y Grok y confiar en que se van a mantener.»
Scale AI está trabajando con NVIDIA para incorporar tecnologías de NVIDIA Open Agent Safety Platform a la capa de infraestructura de agentes de Scale GenAI Portfolio.
«Scale AI está usando la arquitectura de referencia NVIDIA Open Agent Safety Platform para construir sistemas confiables de IA basada en agentes para nuestros clientes corporativos y de gobierno que ejecutan aplicaciones de misión crítica, con aislamiento, aplicación de políticas y auditabilidad integrados desde el inicio», declaró Francis deSouza, CEO de Scale AI. «Apoyamos la seguridad de agentes con límites claros, que definen lo que los agentes pueden hacer, y con controles que los mantienen operando dentro de esos permisos.»
Salesforce y NVIDIA integraron OpenShell con Slack, lo que permite a los equipos gestionar la actividad de los agentes OpenShell directamente desde Slack, ver la actividad y los eventos de auditoría y aprobar o rechazar las solicitudes de permisos adicionales de los agentes, con mayor visibilidad y supervisión humana mientras los agentes trabajan.
SAP está integrando OpenShell con el runtime de Joule Studio, parte de SAP Business AI Platform, para unir la supervisión de negocio con la seguridad de runtime. La empresa también aporta trabajo de ingeniería a OpenShell y colabora con NVIDIA para avanzar en estándares de interoperabilidad a través de la Open Secure AI Alliance.
Accenture, Armadin, Cadence, Cognition, CrowdStrike, Cisco, Dassault Systèmes, Deloitte, EY, Hugging Face, IBM, Irregular, Perplexity, Microsoft, SAP, Scale AI, ServiceNow, Siemens, Synopsys, OpenClaw, Palantir y Palo Alto Networks también están entre las más de 100 organizaciones que trabajan con tecnologías de NVIDIA Open Agent Safety Platform.
Líderes en robótica, como Figure, Gecko Robotics y Skild AI, también están construyendo con OpenShell para integrar controles de seguridad de agentes en sistemas autónomos que actúan en el mundo físico.
Citi y JPMorganChase están entre los líderes de servicios financieros que colaboran con NVIDIA en tecnologías de código abierto compartidas de seguridad de agentes.
Hitachi Energy, EPRI, NextEra Energy, Quanta Services, SPP, Schneider Electric, Siemens Energy y Worley, líderes del sector energético, están entre los proveedores de infraestructura crítica de Estados Unidos que trabajan con tecnologías de NVIDIA Open Agent Safety Platform.
Líderes en software de infraestructura, como Canonical, SUSE y Red Hat también están integrando NVIDIA Open Agent Safety Platform en sistemas operativos de software de uso amplio. Red Hat ejecuta OpenShell y DOCA, ambos parte de NVIDIA Open Agent Safety Platform, en Red Hat AI Factory with NVIDIA, una solución de IA de nivel empresarial, desarrollada en conjunto, para construir, desplegar y gestionar IA a escala en entornos de nube híbrida.
Socios de NVIDIA como Baseten, Cisco, CoreWeave, Dell Technologies, GMI Cloud, HPE, HP Inc., Irregular, Lenovo, Microsoft, Nebius, Oracle Cloud Infrastructure, Supermicro y Together AI están entre quienes ofrecen soluciones de infraestructura de IA que usan y soportan tecnologías de NVIDIA Open Agent Safety Platform para ayudar a sus clientes a ejecutar agentes de IA de forma más segura.
Disponibilidad
El software de NVIDIA Open Agent Safety Platform, incluidos OpenShell y las skills, está disponible en la página de recursos para desarrolladores de NVIDIA y en GitHub.
Las contribuciones al ecosistema como NVIDIA Open Agent Safety Platform apoyan la misión de la Open Secure AI Alliance y también a la comunidad más amplia de seguridad y protección de la IA. Iniciada por NVIDIA junto con más de 120 organizaciones destacadas y gobernada por la Linux Foundation, la Open Secure AI Alliance fortalece la seguridad de los agentes de IA mediante investigación abierta, skills y herramientas, además de proyectos como el Shared AI Findings Exchange, o SAFE.
Acerca de NVIDIA
NVIDIA (NASDAQ: NVDA) es líder mundial en IA y cómputo acelerado.
Muchos de los productos y las funciones que se describen aquí están en distintas etapas de desarrollo y se ofrecerán según y cuando estén disponibles. Las declaraciones anteriores no constituyen un compromiso, una promesa ni una obligación legal, y el desarrollo, el lanzamiento y el calendario de cualquier función descrita están sujetos a cambios, a criterio exclusivo de NVIDIA.
Versión localizada del comunicado publicado originalmente en inglés en nvidianews.nvidia.com. En caso de discrepancia, prevalece la versión en inglés.