El desafío ya no es decidir si una empresa utilizará Inteligencia Artificial (IA). La pregunta es quién responde por las decisiones que esa inteligencia ayudó a tomar.
Durante los últimos años, gran parte de la conversación empresarial en torno a la Inteligencia Artificial se ha concentrado en herramientas, productividad y automatización; qué plataforma utilizar, qué proceso acelerar, cuántas horas ahorrar o qué tareas podría ejecutar una máquina.
Columnas al director
Pero mientras seguimos discutiendo de herramientas, algo mucho más importante está ocurriendo: la Inteligencia Artificial comenzó a participar en decisiones que antes estaban reservadas exclusivamente a las personas.
Hoy la IA prioriza clientes, recomienda candidatos, detecta fraudes, define riesgos, analiza inversiones, clasifica solicitudes, proyecta escenarios y, cada vez más, influye en decisiones estratégicas de los negocios. La IA ya es parte del directorio, aunque muchas veces ese directorio todavía no lo sabe.
Columnas al director
¿Quién responde cuando la IA se equivoca? No responde ChatGPT, no responde el algoritmo y no responde el proveedor, responde la organización, porque hoy el asunto no es tecnológico, y ese es probablemente uno de los principales cambios que tendrán que asumir los gobiernos corporativos durante los próximos años: la Inteligencia Artificial dejó de ser solamente una conversación del área de tecnología para ser un asunto de estrategia, riesgo, responsabilidad, reputación, cumplimiento y creación de valor.
Gobernar IA no significa simplemente establecer restricciones para utilizar determinadas plataformas. Tampoco significa crear un comité que apruebe herramientas o publicar una política que indique qué pueden y qué no pueden hacer los colaboradores. Eso es apenas una parte del problema. Gobernar Inteligencia Artificial significa responder, al menos, tres preguntas: ¿qué valor queremos generar?, ¿qué riesgos estamos dispuestos a asumir y quién será responsable de las decisiones y sus consecuencias?
Francisco Carrasco M.
Cuando esas tres preguntas no tienen respuesta, probablemente no exista todavía gobernanza de IA. Existe adopción tecnológica.
De la herramienta al sistema
Uno de los aportes interesantes de COBIT, marco desarrollado por ISACA para la gobernanza y gestión de información y tecnología, es precisamente recordar algo que a veces olvidamos cuando aparece una nueva tecnología: una organización no funciona solamente por sus sistemas, funciona por la interacción entre procesos, estructuras organizacionales, información, personas y competencias, políticas, cultura y tecnología. Y la IA no cambia esa lógica. De hecho, la vuelve mucho más importante.
Podemos tener el modelo más avanzado del mercado y fracasar si los datos son deficientes. Podemos tener excelentes datos y fracasar si nadie sabe quién tiene autoridad para tomar una decisión. Podemos tener políticas impecables y fracasar, porque la cultura premia resultados sin preguntarse cómo fueron obtenidos. Y podemos tener sofisticados controles tecnológicos mientras los colaboradores utilizan herramientas de IA por fuera de cualquier mecanismo institucional. La gobernanza, por lo tanto, no consiste en gobernar solamente la tecnología. Consiste en gobernar el sistema alrededor de la tecnología.
Columnas al director
Existe también otro riesgo: creer que para gobernar Inteligencia Artificial los directores tendrán que convertirse en especialistas técnicos. No. Un directorio no necesita saber entrenar un modelo de lenguaje, pero sí debe ser capaz de preguntar dónde se está utilizando Inteligencia Artificial, qué decisiones está influenciando, qué información consume, qué riesgos introduce y quién responde por sus resultados.
La diferencia es fundamental. El directorio no necesita saber construir Inteligencia Artificial. Necesita saber gobernar una organización que toma decisiones con ella.
Francisco Carrasco M.
