Riesgo creciente de fraude por inteligencia artificial
El CEO de OpenAI, Sam Altman, alertó a los administradores financieros sobre la amenaza que representa el desarrollo acelerado de la inteligencia artificial en el ámbito bancario. Durante una conferencia de la Reserva Federal en Washington, Altman destacó cómo la tecnología actual permite imitar perfectamente voces humanas, lo cual podría desencadenar una «crisis de fraude» global «muy, muy pronto».
Capacidad de los modelos de inteligencia artificial
Altman explicó que los poderosos modelos de IA ahora son capaces de reproducir la voz de cualquier persona con solo unas pocas muestras de audio cortas. Esta capacidad ha generado una preocupación significativa, ya que algunos bancos aún utilizan la autenticación por voz como método para autorizar transacciones importantes.
El peligro de la autenticación por voz
La autenticación por voz ha sido durante más de una década un mecanismo común en los bancos, donde los clientes repiten una frase personalizada para acceder a sus cuentas. Sin embargo, con el avance de las herramientas generativas de inteligencia artificial, los posibles estafadores también han mejorado su capacidad para replicar estas técnicas.
Escenario de riesgo potencial
Altman describió un escenario en el que atacantes podrían llamar a un banco, pasar todas las pruebas y mover grandes cantidades de dinero simulando la voz de un cliente. «El hecho de que no estemos liberando la tecnología no significa que no exista», afirmó Altman, destacando que los malos actores pueden aprovecharse de esta herramienta sin mucha dificultad.
Expansión del riesgo a otros medios
Además de la voz, Altman mencionó el potencial de «Video Clones», una tecnología que permite imitar no solo la voz sino también la apariencia y el discurso de un individuo. Esto eleva considerablemente los riesgos para la seguridad personal y la confianza institucional.
El futuro de las amenazas
Altman señaló que en breve se tratará ya no solo de una llamada de voz, sino de un video FaceTime indistinguible de la realidad. Esta evolución representa un desafío significativo para los sistemas de seguridad actuales.