La inteligencia artificial (IA) ha alcanzado un nivel de desarrollo que permite crear falsificaciones capaces de engañar a usuarios incluso en situaciones críticas. Un ejemplo es la posibilidad de que una persona aparezca en una videollamada como una representación generada por IA, lo cual marca el inicio de una nueva fase en la lucha digital.
La IA adversaria y los deepfakes han abierto una superficie de ataque a la identidad que no solo es digital, sino también basada en la realidad. Estas tecnologías ya no son exclusivamente teóricas ni ciencia ficción; se utilizan activamente para suplantar identidades, manipular percepciones políticas y eludir las mejores iniciativas de formación en ciberseguridad.
Si tus defensas de ciberseguridad dependen únicamente de la percepción humana, el reconocimiento de voz o incluso la evidencia visual, estás expuesto a un ataque.
Del gato y el ratón al juego de la máquina contra la máquina
La ciberseguridad siempre ha sido un juego del gato y el ratón. Como defensores (ratones), históricamente hemos adaptado nuestras defensas frente al phishing, el malware, el ransomware y las amenazas internas. Hoy, también desarrollamos estrategias contra amenazas emergentes, desde la inteligencia artificial hasta el descifrado cuántico.
Imagina recibir un mensaje de voz de tu director ejecutivo autorizando una transferencia bancaria o una videollamada en vivo de tu administrador de TI pidiéndote que desactives la autenticación multifactor (MFA). Cuando los actores de amenazas utilizan deepfakes de un empleado real como parte de un ataque de ingeniería social, no solo te están engañando, sino que eres «cómplice». Un error en este caso significa que estás permitiendo una transacción o autenticación no autorizada dentro de tu organización.
Qué significan la IA adversaria y los deepfakes para la seguridad
Para evaluar el alcance de esta amenaza, analicemos algunos conceptos clave.
IA adversarial
La IA adversarial se refiere a técnicas que manipulan deliberadamente los modelos de IA, como la generación de imágenes o videos, para crear contenido con una intención maliciosa. Por ejemplo, un software de reconocimiento de imágenes puede ser engañado para que vea una tortuga como un arma basándose en cómo se construye la imagen.
LabSix demostró cómo los ejemplos adversariales pueden perturbar las entradas para causar una clasificación errónea específica en redes neuronales. En este caso, la red neuronal clasificó una tortuga impresa en 3D como un rifle.
En ciberseguridad, el contenido de IA adversarial puede eludir los filtros de spam, confundir a los motores de detección de malware o evadir la detección de fraude al introducir entradas manipuladoras precisas para confundir a los sistemas de IA.
Ataques de deepfake
Los deepfakes son grabaciones de audio o video alteradas de humanos generadas por modelos de aprendizaje automático, normalmente GAN (Redes Generativas Antagónicas), a menudo utilizadas con fines maliciosos. Un deepfake puede hacer que alguien parezca decir o hacer algo que no es real.
Cinco ataques deepfake reales
Considere los siguientes vectores de ataque deepfake bien documentados:
- 1. Suplantación de la identidad de ejecutivos: Los actores de amenazas utilizan tecnología deepfake para clonar la voz de un ejecutivo o líder político mediante breves muestras de audio obtenidas de fuentes públicas.
- 2. Falsificación de videollamadas en vivo: La renderización en tiempo real ya es posible en los sistemas modernos. Los cibercriminales están utilizando esta capacidad para hacerse pasar por colegas o contratistas de confianza a través de Zoom, Teams, FaceTime o Slack.
- 3. Integración de malware en medios: El malware puede incrustarse en imágenes, archivos PDF, páginas web y otro contenido deepfake, lo que potencialmente le permite evadir las herramientas antivirus y los sistemas de detección de anomalías.
- 4. Implementación de chatbots de IA para phishing: Los atacantes implementan bots de phishing basados en IA que simulan ser representantes de atención al cliente en sitios web fraudulentos.
- 5. Falsificación de datos biométricos digitales: Las huellas dactilares sintéticas, los modelos faciales en 3D y los escaneos de iris replicados por IA pueden duplicarse digitalmente si la tecnología original que aloja los datos biométricos se ha visto comprometida.
Pasos prácticos para defenderse de los adversarios digitales actuales
Entonces, ¿cómo nos protegemos en un mundo donde la realidad percibida puede ser falsificada?
- 1. Implementar la verificación multimodal: Los deepfakes suelen centrarse en una sola modalidad sensorial: voz o video, como componente principal generado por la IA. Sin embargo, los humanos pueden interactuar a través de múltiples canales.
- 2. Adopte la IA para detectar la IA: Las herramientas de IA defensiva pueden entrenarse para detectar deepfakes mediante el análisis de la velocidad de fotogramas, las inconsistencias de píxeles y el parpadeo o la modulación de voz no naturales.
- 3. Incorpore escenarios de deepfakes en la formación de los empleados: La formación periódica en ciberseguridad debe incluir escenarios que requieran que los empleados cuestionen las interacciones «auténticas».
- 4. Firme digitalmente las comunicaciones confidenciales: Use firmas criptográficas para video, audio y documentos, especialmente en industrias reguladas o donde se produzcan comunicaciones confidenciales de alto nivel.
- 5. Limite su presencia en medios públicos: Cuantos menos datos de entrenamiento de IA para deepfakes pueda consumir un actor de amenazas, más difícil será crear falsificaciones convincentes.
La IA adversaria y los deepfakes han transformado radicalmente el panorama de amenazas. No son solo herramientas para entretener; pueden automatizar, amplificar y camuflar ataques, haciéndolos extremadamente difíciles de detectar.
Confía, pero verifica todo.