Eset: Impacto y desafíos de la inteligencia artificial: prevención del uso inadecuado de deepfakes
Photo by Sander Sammy / Unsplash

Eset: Impacto y desafíos de la inteligencia artificial: prevención del uso inadecuado de deepfakes

En un mundo donde la inteligencia artificial se ha convertido en un elemento esencial tanto para empresas como para la vida cotidiana, surgen también preocupaciones acerca de su uso indebido. El fenómeno del deepfake, particularmente su impacto entre los jóvenes, representa un desafío emergente en el ámbito de la ciberseguridad y la ética digital.

Nadia González de Thales, Ciberseguridad: Un asunto de conciencia
Las ciberamenazas han evolucionado para pasar de ser correos electrónicos fraudulentos mal redactados a ataques a sistemas críticos de empresas o estados, ataques de ransomware (secuestro de datos) y tecnologías deepfake (ultrafalso)

El auge del deepfake y su impacto en los jóvenes

El crecimiento tecnológico en 2023 ha surgido de la mano de la IA, destacándose por su contribución positiva en distintos sectores. No obstante, su mal uso ha generado preocupaciones, particularmente entre los jóvenes. Casos en Latinoamérica y España han evidenciado el empleo de deepfakes para crear contenido sexual indebido, afectando a menores de edad y sus entornos educativos.

ZAO: la app por la que deberíamos empezar a temerle a los Deepfakes
Esta aplicación china permite incluir tu rostro en clips de películas o videojuegos. Sí, al igual que los contenidos deepfakes.

Mientras la IA ofrece innumerables beneficios, su mal uso ha llevado a situaciones de abuso y extorsión. El investigador Mario Micucci de ESET Latinoamérica enfatiza que la raíz del problema no es la tecnología en sí, sino la falta de educación digital en los jóvenes:

Es importante aclarar que la tecnología no es el problema. La verdadera raíz está en la falta de educación digital que existe en los jóvenes. Si bien, los adolescente hoy están creciendo a la par del mundo tecnológico, es prioritaria la implementación de charlas, cursos y demás herramientas en las zonas educativas para entregar a estos niños y adolescentes buenas prácticas para el uso correcto de la IA.

Un caso reciente fue publicado el miércoles 25 de octubre el Internet Watch Foundation (IWF) publicó un informe en el que alertó cómo grupos de pedófilos utilizan esta herramienta para crear y compartir imágenes con contenido sexual de menores de edad.

Imagen | Créditos IWF

En este estudio, la fundación halló imágenes de cientos de víctimas creadas a partir de IA. En otros foros de la web oscura había imágenes de niños famosos que habían sido retocadas para entregar a la fotografía una connotación sexual.

Comparación de la evolución de Midjourney. Fuente: IWF

Ante el incremento de ataques de suplantación de identidad, es vital fomentar la prevención a través de la educación. ESET sugiere prácticas como el cuidado de la información publicada en redes sociales, la protección de cuentas personales y la educación digital continua. Además, es importante desarrollar un ojo crítico para detectar imágenes alteradas mediante IA y usar herramientas como Google Reverse Image Search para verificar su autenticidad.

Crecen las amenazas por Deepfakes a las organizaciones
Existen tres tipos de Deepfakes más utilizados para atacar a empresas mediante extorsión, chantaje y espionaje industrial.

En esta era digital, es imprescindible ser conscientes de los riesgos y oportunidades que la IA presenta. Si bien la tecnología puede ser una herramienta poderosa para el avance y el entretenimiento, también es necesario estar alerta ante su potencial uso indebido. Las iniciativas de educación y concienciación digital juegan un rol fundamental en la protección de los más vulnerables, especialmente los jóvenes.

¿Cómo crees que pueden las instituciones educativas y las familias colaborar para fortalecer la educación digital y prevenir el mal uso de la IA entre los jóvenes?

Deepfake: el delito que amenaza a usuarios y bancos en Latam
El método del Deepfake ha tomado fuerza como una nueva forma de cometer delitos a personas e instituciones.

Juan Andrés

Aquí escribo notas corporativas y en Pisapapeles, contenido tecnológico (a veces reviews). En ambos, cuestiono temas como brecha digital e inteligencia artificia.