NVIDIA anunció la creación de Open Secure AI Alliance, una iniciativa que reunirá a empresas tecnológicas, organizaciones de código abierto e instituciones de investigación para desarrollar y compartir herramientas destinadas a mejorar la seguridad de los sistemas de inteligencia artificial.
La alianza toma como base el trabajo de Akrites, de Linux Foundation, y de la comunidad OpenSSF.
Entre sus socios iniciales figuran Adobe, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Fortinet, GitHub, HPE, Hugging Face, IBM, Microsoft, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, Snowflake y Zscaler. El grupo trabajará en una arquitectura de defensa abierta para agentes, con controles de identidad, aislamiento, formatos seguros de modelos, análisis multimodelo y flujos protegidos de desarrollo de software.
Admin
NVIDIA aporta modelos y un marco para agentes seguros
NVIDIA contribuirá con modelos abiertos, pesos, datos e investigación sobre entornos de control y ejecución para agentes. Como parte del anuncio, la compañía publicó NVIDIA Labs Object-Oriented Agent, un proyecto disponible en GitHub que busca facilitar la evaluación, trazabilidad, auditoría y gobernanza del comportamiento de los agentes de IA.
Los participantes también incorporarán proyectos existentes. HPE aportará su trabajo en SPIFFE y SPIRE para verificar identidades y cargas autorizadas, mientras Hugging Face entregó Safetensors a PyTorch Foundation como formato seguro para almacenar pesos. IBM y Red Hat contribuirán con Lightwell, Microsoft con el sistema de análisis MDASH y SpaceXAI con su agente de programación Grok Build.
Admin
La alianza plantea que los modelos abiertos y cerrados deben emplearse de forma complementaria. Su objetivo es entregar a organizaciones y gobiernos herramientas que puedan inspeccionar, adaptar y ejecutar en infraestructura propia, reduciendo la dependencia de sistemas únicos y facilitando la respuesta ante incidentes de seguridad.
