Red Hat anunció la formación de asago (AI Safety And Governance Orchestration), un proyecto comunitario de código abierto que busca automatizar la conversión de políticas corporativas y regulatorias de IA en controles operativos. La iniciativa todavía se encuentra en fase de conformación.
asago convertirá políticas de gobernanza de IA en pruebas y controles de producción
El diseño previsto organiza el proceso en cuatro etapas: mapeo, evaluación y mitigación de riesgos, además del despliegue en producción. El sistema leerá las políticas incorporadas y asociará sus requisitos con marcos y normas mediante IBM AI Risk Atlas.
Admin
Entre las referencias consideradas figuran NIST AI RMF, OWASP LLM Top 10 y la Ley de IA de la Unión Europea. A partir de ese mapa, asago generará escenarios de seguridad ajustados al caso de uso, recomendará medidas de mitigación y preparará configuraciones de despliegue para nube híbrida y Kubernetes.
Cada etapa se diseñará para mantener una trazabilidad continua entre cláusulas específicas de las políticas, pruebas y controles activos. El proyecto también prevé generar configuraciones declarativas para Kubernetes, Terraform y Ansible, con el fin de aplicar los controles entre nubes y entornos locales.
Steven Huels, VP de Ingeniería de IA de Red Hat, señaló que la propuesta con el paso desde pilotos acotados hacia agentes autónomos y sostuvo que la gobernanza debe integrarse en la infraestructura utilizada para operar esos sistemas.
"A medida que las organizaciones pasan de pilotos experimentales de IA a agentes autónomos de larga duración, establecer barreras operativas claras se convierte en un requisito crítico de infraestructura. […]".
Francisco Carrasco M.
Red Hat reúne a empresas, universidades y centros de investigación en la comunidad asago
La comunidad reúne a Red Hat, Alquimia AI, Brave Software, la coalición EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA y The Alan Turing Institute. El trabajo conjunto contempla seguridad de IA, ingeniería de software empresarial, aprendizaje automático adversarial y cumplimiento regulatorio.
Stuart Battersby, arquitecto de seguridad de IA y evaluación de modelos de Red Hat, explicó que la composición de la comunidad busca incorporar perspectivas técnicas, académicas y gubernamentales, además de ampliar la participación hacia distintas jurisdicciones.
"El proyecto asago es un verdadero esfuerzo colaborativo de código abierto que reúne a actores de la industria tecnológica, el mundo académico y el gobierno. […] Animamos a más colaboradores a sumarse […] para garantizar la máxima cobertura de perspectivas sobre seguridad de la IA".
El proyecto buscará integrar herramientas abiertas y cubrir los vacíos operativos existentes entre ellas. La propuesta considera trazas distribuidas para registrar la evidencia que los auditores necesitan al revisar el cumplimiento.
Sebastián Cao, director ejecutivo de Alquimia AI, planteó que la gobernanza debe incorporarse desde el diseño de las plataformas agénticas y sostuvo que los estándares abiertos pueden conectar políticas, controles operativos y evidencia auditable sobre el comportamiento de los sistemas.
"En Alquimia construimos nuestra plataforma agéntica sobre una convicción: la inferencia de IA debe ser controlada, explicable y soberana por diseño […] Asago convierte esa misma convicción en un estándar abierto, que ofrece a cada organización una ruta desde las políticas hasta una gobernanza preparada para producción que realmente pueda auditar. […]".
Francisco Carrasco M.
Priya Nagpurkar, VP de AI Platform en IBM Research, concentró su evaluación en la necesidad de someter los sistemas a pruebas medibles y mantener controles operativos que permitan relacionar los marcos de gobernanza con los despliegues reales.
"Para que la IA sea confiable en entornos reales, necesita pruebas medibles y controles operativos. Mediante la comunidad asago, IBM aporta su experiencia para ayudar a cerrar la brecha entre los marcos de gobernanza y los sistemas de IA desplegados. […]".
La iniciativa se apoya además en el trabajo de Red Hat y NVIDIA como integrantes de Open Secure AI Alliance. Esa relación conecta el esquema de gobernanza con el desarrollo de herramientas abiertas para la seguridad de la IA.
Daniel Rohrer, VP de Seguridad de Software de NVIDIA, situó asago como una aplicación del trabajo de la Open Secure AI Alliance y destacó la generación automatizada de controles de producción y registros de auditoría mediante herramientas de código abierto.
"[…] Al automatizar la traducción de las políticas de gobernanza de IA en controles listos para producción y registros de auditoría, el proyecto asago demuestra cómo Red Hat, NVIDIA y nuestro ecosistema están reforzando la seguridad de los agentes con herramientas de código abierto".
Columnas al director
El proyecto se distribuirá bajo la licencia Apache 2.0. Red Hat indicó que desarrolladores, investigadores académicos y empresas interesadas en una adopción temprana pueden revisar el repositorio y participar en la gobernanza mediante GitHub.
