Los ataques Deep Fake han ganado protagonismo en los titulares de las noticias, especialmente entre empresas que enfrentan riesgos significativos. Expertos en detección están analizando cómo surgen estos ataques y qué vulnerabilidades explotan.
Entre 2023 y 2024, las campañas de phishing e ingeniería social han provocado secuestros de cuentas, robo de activos y datos, así como daños a la reputación de empresas en diversos sectores. Los centros de llamadas de los principales bancos e instituciones financieras ahora están abrumados por una avalancha de llamadas falsas que utilizan tecnología de clonación de voz para intentar acceder a las cuentas de clientes y realizar transacciones fraudulentas.
Los servicios de asistencia técnica y el personal interno también se han visto inundados con campañas de ingeniería social mediante llamadas y mensajes, a menudo con éxito. Un ejemplo fue el ataque a la empresa desarrolladora de software Retool, que provocó decenas de millones de dólares en pérdidas para sus clientes. Un trabajador financiero fue engañado para transferir fondos a estafadores. Tras el ataque de phishing de Retool, solo uno de los clientes de criptomonedas perdió 15 millones de dólares en activos.
La barrera de entrada para los delincuentes ahora está más baja que nunca. Las herramientas que permiten la creación de Deep Fakes son más baratas y accesibles, lo que brinda incluso a usuarios sin conocimientos técnicos la oportunidad de diseñar campañas de fraude impulsadas por la IA.
Los Deep Fakes en todas las modalidades
Un Deep Fake es un medio sintético (una imagen, vídeo, audio o texto) que parece auténtico pero ha sido creado o manipulado con modelos generativos de IA.
El audio Deep Fake se refiere al sonido generado sintéticamente que ha sido creado o alterado utilizando modelos de aprendizaje profundo. Un método común detrás del audio Deep Fake es la clonación de voz, que implica discursos falsos creados con menos de un minuto de muestras de voz de personas reales.
La creación de un video Deep Fake generalmente implica entrenar una red neuronal profunda en un gran conjunto de datos de videos e imágenes que presentan a los individuos objetivo. El modelo aprende sus rasgos faciales, expresiones y gestos, lo que le permite generar nuevo contenido de vídeo que parece auténtico.
Las imágenes Deep Fake se pueden utilizar para alterar documentos y eludir los esfuerzos de los equipos de Conozca a su Cliente (KYC) y Anti-Lavado de Dinero (AML) para frenar la creación de cuentas con identidades falsas.
El texto Deep Fake se refiere a contenido generado artificialmente destinado a imitar el estilo, la estructura y el tono de la escritura humana. Estos modelos Deep Fake se entrenan en grandes conjuntos de datos de texto para aprender patrones y relaciones entre palabras.
El impacto de los Deep Fakes en todas las industrias
Los Deep Fakes de audio son uno de los mayores factores de riesgo para las empresas modernas, especialmente las instituciones financieras. Los centros de llamadas bancarios están cada vez más inundados de llamadas clonadas de voz falsas que intentan acceder a las cuentas de los clientes. El fraude impulsado por la IA se ha convertido en la principal preocupación de seguridad para la mayoría de los bancos.
El daño causado por el cibercrimen Deep Fake va mucho más allá de la clonación de voz y puede afectar a cualquier industria. Las compañías de seguros se enfrentan a pérdidas importantes a medida que los estafadores presentan pruebas falsas de reclamaciones ilegítimas.
Los Deep Fakes son una amenaza para los mercados y la economía en general: el Deep Fake de una explosión en el Pentágono provocó pánico en el mercado de valores antes de que los funcionarios pudieran desmentirlo.
Para las empresas de medios, el daño a la reputación causado por los Deep Fakes puede conducir rápidamente a una pérdida de espectadores e ingresos publicitarios. Los Deep Fakes aumentan las apuestas para obtener informes y verificación de hechos precisos.
Las plataformas de redes sociales son igualmente vulnerables, especialmente porque se han convertido en la principal fuente de noticias para la mayoría de los ciudadanos. Los actores maliciosos gastan apenas 7 centavos para llegar a 100.000 usuarios con un Deep Fake.
Las campañas de desinformación Deep Fake pueden afectar la integridad de las elecciones, provocando malestar cívico y caos dentro de las instituciones gubernamentales. Este malestar puede sacudir los mercados, debilitar la economía y erosionar la confianza entre los votantes y el sistema electoral.
Soluciones de detección de Deep Fakes
¿Cómo combaten las organizaciones esta amenaza urgente? Todo se reduce a la detección.
La capacidad de detectar voces, vídeos, imágenes y textos generados por IA (de forma precisa, rápida y a escala) puede ayudar a las organizaciones a adelantarse a los actores de amenazas que intentan utilizar Deep Fakes para ejecutar sus campañas de fraude o desinformación.
Quienes trabajan para proteger los centros de llamadas, los equipos de atención al cliente y los servicios de asistencia internos querrán buscar una solución que pueda detectar voces generadas por IA en tiempo real. La detección de voz profunda en tiempo real debería encajar perfectamente en los flujos de trabajo de plataformas biométricas o de autenticación de voz existentes.
Uno de cada seis bancos lucha por identificar a sus clientes en cualquier etapa del recorrido del cliente, y los trabajadores financieros citaron la incorporación de clientes como el proceso de flujo de trabajo más vulnerable al fraude. Los detectores de texto e imágenes son un poderoso elemento disuasivo contra la falsificación de documentos, el robo de identidad y los esfuerzos de phishing.
Los periodistas deben sentirse capacitados para informar sobre las noticias con la confianza de que sus fuentes son auténticas. Los modelos de detección de imágenes, vídeos y texto ayudan a garantizar que los periodistas no consideren pruebas falsas en informes legítimos.
Se han creado sofisticadas herramientas de detección de audio Deep Fake para detectar la herramienta popular más nueva de manipulación política: llamadas automáticas engañosas que utilizan clones de voz de candidatos políticos. Las soluciones de detección actuales pueden detectar suplantaciones sintetizadas en momentos críticos.
Reality Defender es una de esas soluciones para detectar y proteger contra Deep Fakes avanzados de todos los medios. Su API independiente de la plataforma permite a las organizaciones cargar una gran cantidad de contenido y escalar capacidades de detección bajo demanda.