El impacto de la inteligencia artificial generativa en la productividad laboral es innegable. Actualmente está permitiendo ahorrar como mínimo una hora diaria, permitiendo a los colaboradores ser eficientes en sus tareas rutinarias.
Francisco Carrasco M.
Sin embargo, aunque los impactos en la productividad son cada vez más notorios, existen riesgos al interactuar con cualquiera de las plataformas que hoy existen. Los sistemas se conectan con bases de datos, pero se alimentan principalmente de información que comparten los mismos usuarios.
Jimmy Ulloa, CyberSecurity Architect Andina de Coasin Logicalis, destaca que:
“La IA no solo se está adoptando para agilizar procesos, es un colaborador más. Lo complejo es que los usuarios le están entregando información sensible. Por lo tanto, vemos un impulso más de urgencia que de conciencia, ya que no se está prestando atención a los riesgos y potenciales impactos legales relacionados con la Ley Marco y la Ley de Protección de Datos”.
Columnas al director
En palabras de Ulloa, aunque la legislación específica sobre la IA aún está en desarrollo en muchos países, ya existen estándares internacionales como la norma ISO/IEC 42001 que orientan a las organizaciones en su gestión. En este contexto, la creciente regulación sobre el cuidado de los datos obligará a las empresas a adoptar soluciones de gobierno y protección. En consecuencia, las organizaciones establecerán filtros sobre las consultas permitidas y la información que deberá restringirse antes de su uso.
“Se trata de un nuevo punto débil. La solución implica identificar los riesgos y aplicar controles, ya que nunca se reducirán a cero. Se deben aplicar no solo medidas de prevención de pérdida de datos (DLP por sus siglas en inglés) específicas para sistemas y motores de IA, sino que también tomar precauciones mediante el gobierno y la protección de datos, incluyendo la capacitación y concientización continua”.
Francisco Carrasco M.
A continuación, se comparte una guía de buenas prácticas a la hora de usar esta herramienta.
¿Para qué la necesito? Antes de usarla masivamente, es importante definir su uso. ¿Para qué la vamos a ocupar? ¿Qué es lo que vamos a permitir en cuanto a las consultas? ¿Qué tipo de información se compartirá y cuál se restringirá? Haciendo ese ejercicio se establece un filtro entre el usuario y la IA.
Seguridad y confidencialidad. La regla de oro es nunca introducir datos personales de clientes, secretos comerciales, código fuente propietario o estados financieros no públicos en herramientas de IA comerciales. En estos casos, se pueden utilizar soluciones de anonimización para que los datos sean procesados de forma segura, evitando que queden expuestos o sean incorporados a otros sistemas de aprendizaje o a entornos públicos.
Admin
Calidad y verificación. El usuario es el editor y verificador. La IA puede sufrir alucinaciones e imprecisiones por lo que cualquier dato técnico, cita legal o cifra estadística debe ser verificado manualmente. No hay que copiar y pegar directamente. La IA tiende a ser demasiado entusiasta o repetitiva. Hay que ajustar el resultado para que mantenga la voz de la empresa.
Agentes IA: Otra regla de oro es mantener siempre el control humano sobre los agentes de IA, definiendo claramente sus límites de actuación y supervisando sus decisiones. Las empresas deben asegurarse de que estos sistemas operen bajo políticas claras, con trazabilidad de sus acciones y mecanismos de revisión, evitando que tomen decisiones críticas de forma autónoma sin validación humana.
Fabrizio Ballarino
Ética y legalidad. Hay que corroborar que los datos no contengan sesgos de género, raza o cultura, especialmente en procesos de recursos humanos o comunicación externa. En estos hay que tener en cuenta que el contenido generado 100% por IA a menudo no es protegible por derechos de autor. Si es algo vital para la propiedad intelectual de la empresa, debe haber una intervención humana sustancial.
“Sin lugar a dudas hay complejidades en torno a la gobernanza de la IA, por lo que es importante seguir recurriendo a estándares internacionales y experiencias regionales para implementar un uso que priorice la ética, la privacidad, la seguridad y el desarrollo de la fuerza laboral”.
Francisco Carrasco M.
