Entendida como aquella disciplina de la informática capaz de crear sistemas que permiten efectuar tareas que habitualmente necesitan del razonamiento humano, la Inteligencia Artificial si bien genera diversos beneficios, también puede comprender un conjunto de ciberamenazas que se deben prevenir y enfrentarlas.
Francisco Carrasco M.
Así lo afirma Francisco Fernández, gerente general de AVANTIC CHILE quien menciona como aspectos positivos de la IA el procesamiento de grandes cantidades de datos, la automatización de tareas repetitivas, la disminución de los errores y la mejora en la toma de decisiones, entre otros.
Sin embargo, el experto manifiesta que lo anterior trae aparejada una serie de riesgos informáticos que pueden afectar tanto a personas como organizaciones.
"Según datos de Kaspersky, los ciberataques que usan herramientas de IA como anzuelo han aumentado en 115% en lo que va de este año. Dentro de estos están los archivos no deseados o maliciosos que se hacen pasar por plataformas como, por ejemplo, DeepSeek y ChatGPT."
Dentro de los riesgos que encierra la IA, el ejecutivo menciona aquellos relacionados con la fuga y uso incorrecto de datos, lo que se puede traducir en la exposición involuntaria al momento de utilizar plataformas de IA, rastreo masivo de personas y la aparición de modelos que pueden aprender de información que es privada y que podrían filtrar.
Francisco Carrasco M.
Otro peligro se vincula al hecho de que la IA puede fortalecer los ciberataques, pues permite a los delincuentes informáticos automatizarlos, identificar de manera más rápida las brechas de seguridad y potenciar la manipulación de la información, facilitando la creación de videos, audios e imágenes falsas para cometer fraudes, extorsiones o, simplemente, desinformar.
Un tercer escollo tiene que ver con la pérdida de control, sobre todo cuando se delega a la IA decisiones y funciones que son consideradas críticas y que carecen de supervisión, lo que puede provocar importantes errores.
Admin
Un cuarto riesgo se relaciona con la afectación de sistemas considerados estratégicos (Por ejemplo, el sistema eléctrico nacional) lo que puede ocasionar fallas o la manipulación de ellos, ocasionando enormes repercusiones en un país.
Finalmente, está el hecho que la IA puede contribuir a la confusión de la opinión pública al permitir el empleo de bots masivos con la finalidad de difundir tendencias falsas en las redes sociales y/o influir en el comportamiento de las personas, ya sea en materia de consumo o electoral.
Admin
Los peligros de ChatGPT
Respecto a esta herramienta en particular, el gerente general de AVANTIC CHILE señala que son varios los riesgos que puede generar para las organizaciones. Entre ellos están los relacionados con la seguridad (vulnerabilidad, fuga de información, etc.), mal uso (ciberataques, etc.), desafíos éticos y las infracciones de derecho de autor.
“El peligro de fuga de información de ChatGPT tiene que ver con el riesgo de que la información confidencial ingresada en dicha plataforma sea vista por trabajadores de OpenAI o por otros usuarios”.
Francisco Carrasco M.
De hecho, uno de los casos de fuga de información más emblemáticos ocurrió en Corea del Sur en 2023 y afectó a una división de Samsung Electronics, donde se autorizó el uso de ChatGPT. En dicha oportunidad, algunos empleados de esta compañía ingresaron código fuente del programa y contenido de reuniones en el sistema.
“Algunas herramientas que los delincuentes emplean para hacer daño son Kali GPT, que genera payloads; OSINT GPT, que recolecta información pública; Worm GPT, que simula phishing e ingeniería social; FraudGPT, que simula fraudes; y OCI GPT, para investigaciones digitales avanzadas”.
Respecto a las medidas para prevenir la fuga de datos desde ChatGPT, el experto menciona la fijación de reglas de uso, instaurar un sistema que evite la fuga de información, emplear herramientas para tales fines, y capacitar a los empleados en materias de alfabetización digital.
Francisco Carrasco M.
