¿Por qué la IA diluye la frontera entre lo real y lo falso para impulsar el cibercrimen?
La capacidad de la IA para suplantar y manipular identidades digitales de manera convincente, está diluyendo la frontera entre lo auténtico y lo falso. | Fotografía Créditos: Check Point

¿Por qué la IA diluye la frontera entre lo real y lo falso para impulsar el cibercrimen?

A medida que la inteligencia artificial se integra en la sociedad, redefine la forma en que evolucionan las ciber amenazas. En su recién lanzado Reporte de IA, Check Point Software Technologies, advierte que las mismas tecnologías que ayudan a las empresas a ser más eficientes y a automatizar la toma de decisiones, ahora están utilizándose como armas de la ciberdelincuencia. 

Ataques al sector bancario ya crecen un 30% este 2025
El sector financiero es la columna vertebral de la economía global, lo que lo convierte en una de las industrias más atacadas por ciberdelincuentes.

En el centro de esta transformación se encuentra la capacidad de la IA para suplantar y manipular identidades digitales de manera convincente, diluyendo la frontera entre lo auténtico y lo falso. El AI Security Report de Check Point Research identifica cinco áreas clave donde esta erosión de la confianza es más evidente:

1.     Uso de IA y riesgo de fuga de datos: un análisis de los datos recopilados por GenAI Protect de Check Point Software revela que 1 de cada 80 prompts de GenAI presenta un alto riesgo de filtración de datos sensibles. Además, los datos muestran que el 7,5% de los prompts —aproximadamente 1 de cada 13— contienen información potencialmente sensible, lo que plantea desafíos críticos en materia de seguridad, cumplimiento e integridad de datos.  

Grupo de hackers DarkStorm se atribuye apagón en España y Portugal, pero sin pruebas fehacientes
El apagón sirve como un duro recordatorio de lo vulnerable que puede ser la infraestructura crítica de cualquier país del mundo.

2.     Suplantación y técnicas de ingeniería social mejoradas por IA: los actores de amenazas utilizan la IA para generar correos electrónicos de phishing realistas en tiempo realaudios de suplantación y videos deepfake

3.     Envenenamiento de datos en modelos LLM y desinformación: los ciberdelincuentes manipulan los datos de entrenamiento de la IA para alterar sus resultados. Un caso relacionado con la red de desinformación rusa Pravda demostró que los chatbots de IA replicaban narrativas falsas en el 33% de los casos, destacando la necesidad de garantizar una integridad robusta de los datos en los sistemas de IA. 

Ciberfraude sigue aumentando y cuesta un 5% de los ingresos anuales a las empresas
Check Point Software explica cómo estos ataques se han vuelto más complejos, utilizando aprendizaje automático e inteligencia artificial para perfeccionar tácticas de ingeniería social y aumentar las tasas de éxito.

4.     Creación de malware y data mining impulsadas por IA: los actores maliciosos emplean la IA para crear y optimizar malware, automatizar campañas de DDoS y procesar credenciales robadas. Servicios como Gabbers Shop utilizan IA para validar y limpiar datos robados, aumentando su valor de reventa y mejorando la eficiencia en la selección de objetivos. 

5.     Armamento y secuestro de modelos de IA: desde el robo de cuentas de LLM hasta la creación de Dark LLMs personalizados como FraudGPT y WormGPT, los atacantes están eludiendo los mecanismos de seguridad y comercializando la IA como herramienta para el hacking y el fraude en la dark web.

Bancos sufren un aumento de 40% en ciberataques y refuerzan la educación a sus clientes
Según datos del FMI, en los últimos 20 años el sector financiero ha perdido 12.000 millones de dólares como consecuencia de más de 20.000 casos de ciberataques

Cristian Vásquez, Territory Manager de Check Point Software Chile, explica que:

“El uso de la IA en la ciberdelincuencia ya no es teórico, sino que está evolucionando de forma paralela a su adopción y, en muchos casos, avanza más rápido que los controles de seguridad tradicionales. La IA se utiliza contra los sistemas, plataformas e identidades en los que confían”.

Además recalca que dentro de estas instancias del uso de IA:

“Los equipos de seguridad deben empezar a incorporar en su estrategia la detección asistida por IA, sistemas de inteligencia de amenazas que puedan identificar dispositivos generados por IA y protocolos actualizados de verificación de identidad que tengan en cuenta el engaño por voz, vídeo y texto”.
Ciberataque ILOVEYOU: 25 años del caso que redefinió la ciberseguridad
Ciberataque ILOVEYOU cumple 25 años y sigue marcando la evolución técnica, legal y cultural de la ciberseguridad corporativa global.

Francisco Carrasco M.

Francisco Carrasco, editor general y periodista azul especializado en TI con más de 24 años en el mercado local e internacional, quien trabajo por 15 años con la destacada editorial IDG International.