La Open Secure AI Alliance, que reúne a más de 120 organizaciones, está desarrollando Shared AI Findings Exchange (SAFE), una propuesta para compartir información sobre incidentes de ciberseguridad vinculados con sistemas de IA agéntica. La Linux Foundation abrió una solicitud de comentarios sobre los lineamientos, elaborados por un grupo de trabajo en el que participan NVIDIA, Cisco, CrowdStrike, Hugging Face y Red Hat.
Admin
SAFE busca compartir hallazgos de seguridad en IA
La propuesta contempla recopilar y analizar de forma confidencial incidentes y eventos cercanos a producirlos, informar a los afectados, detectar fallas recurrentes en los controles y publicar recomendaciones basadas en evidencia. El objetivo es transformar hallazgos individuales en medidas que puedan reducir riesgos para todo el ecosistema.
Como parte de la iniciativa, NVIDIA aportó herramientas abiertas para distintas capas de seguridad. Entre ellas están NOOA, orientada a probar y auditar el comportamiento de agentes; OpenShell, que restringe sus accesos y acciones; NeMo Guardrails para aplicar políticas de seguridad; y Garak, destinado a detectar vulnerabilidades en modelos de lenguaje.
La alianza también trabaja en identidad y permisos, herramientas de ejecución, modelos especializados en seguridad, observabilidad, protección de datos y resiliencia. Sus integrantes están desarrollando componentes abiertos que puedan ser inspeccionados y reutilizados por otras organizaciones.
Admin
