Nvidia (NASDAQ:NVDA) anunció el 28 de septiembre Nvidia Open Agent Safety Platform, una plataforma de software abierta y un diseño de sistema de referencia destinados a proporcionar controles de seguridad para agentes de inteligencia artificial desde las pruebas hasta el despliegue.
La plataforma consta de dos componentes principales, Nvidia OpenShell y Nvidia Sentry, y cuenta con la participación de más de 100 organizaciones de los sectores tecnológico, financiero, robótico y otras industrias.
OpenShell proporciona controles de ejecución para agentes de IA
Nvidia OpenShell es un software de código abierto diseñado para proporcionar un entorno de ejecución seguro para agentes de IA. Según Nvidia, el software rastrea las acciones de los agentes y aplica políticas definidas mientras estos operan en CPUs Nvidia Vera.
OpenShell también puede ampliarse para funcionar con plataformas informáticas de terceros, incluidos sistemas basados en tecnología de Arm e Intel.
El segundo componente, Nvidia Sentry, es un diseño de sistema de referencia que utiliza un mecanismo de supervisión independiente que se ejecuta en unidades de procesamiento de datos Nvidia BlueField-4.
Nvidia señaló que Sentry monitorea continuamente el comportamiento de los agentes y puede ponerlos en cuarentena en cuestión de milisegundos si intentan operar fuera de los límites definidos.
Más de 100 organizaciones trabajan con la plataforma
Nvidia indicó que más de 100 organizaciones están trabajando con Open Agent Safety Platform.
Entre los participantes se encuentran Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow y SpaceXAI.
Salesforce integró OpenShell con Slack, lo que permite a los equipos monitorear la actividad de los agentes y aprobar o rechazar solicitudes de permisos directamente dentro de la aplicación.
SAP está incorporando OpenShell en su entorno de ejecución Joule Studio como parte de SAP Business AI Platform, mientras que Scale AI está integrando la tecnología en la capa de infraestructura para agentes de su Scale GenAI Portfolio.
Empresas de robótica y servicios financieros participan en la plataforma
Las compañías de robótica Figure, Gecko Robotics y Skild AI están utilizando OpenShell mientras desarrollan controles de seguridad para agentes de IA que operan dentro de sistemas físicos autónomos.
Las firmas de servicios financieros Citi y JPMorganChase también están colaborando con Nvidia en tecnologías compartidas de código abierto para la seguridad de agentes de IA.
Nvidia señaló que el software OpenShell y las herramientas relacionadas están disponibles a través de sus recursos para desarrolladores y GitHub.
La plataforma también respalda a Open Secure AI Alliance, que está gobernada por Linux Foundation. Según Nvidia, la alianza fue creada junto con más de 120 organizaciones y está enfocada en la seguridad de agentes de IA mediante investigación abierta y herramientas compartidas.