Por los deepfakes, "Hay crisis de fraude financiero a la vuelta de la esquina" [Sam Altman]

En una advertencia cruda y urgente a los administradores financieros, el CEO de OpenAI, Sam Altman, declaró el martes que la inteligencia artificial ahora es tan experta en imitar voces humanas que podría generar una "crisis de fraude" global en la banca "muy, muy pronto". Sus comentarios, en una conferencia de la Reserva Federal en Washington, subrayaron cómo las personas tendrán que cambiar las cosas fundamentales sobre la forma en que interactúan debido al ritmo implacable de los avances en esta tecnología.

Altman mencionó cómo los poderosos modelos de IA ahora son capaces de reproducir perfectamente la voz de cualquier persona basada en solo unas pocas muestras de audio cortas y emitieron su advertencia: "Una cosa que me aterroriza aparentemente es que todavía hay algunas instituciones financieras que aceptarán la voz de voz como autenticación para que usted mueva mucho dinero o haga algo más. Es una locura seguir haciendo ... AI ha derrotado completamente eso".

Los bancos, durante más de una década, se han basado en la autenticación de voz: los clientes repiten una frase personalizada, su "huella de voz", para acceder a cuentas. Pero como la IA generativa ha avanzado, también las herramientas disponibles para los posibles estafadores. Altman describió un futuro cercano donde los atacantes podrán llamar a un banco, pasar cada prueba y mover dinero libremente, todo simulando la voz de un cliente.

"El hecho de que no estemos liberando la tecnología no significa que no exista", dijo Altman sobre la caja de Pandora que representa la IA. "Un mal actor lo lanzará, esto no es súper difícil de hacer".

El jefe de OpenAI describió el escenario que lo mantiene despierto por la noche: un ataque coordinado a gran escala donde las voces generadas por IA derrotan rápidamente las medidas de seguridad anticuadas en los bancos más grandes del mundo.

La amenaza no se limita a la voz. Altman dio un vistazo a la siguiente frontera: "Video Clones", y capaz de imitar la apariencia y el discurso de un individuo, alzando las apuestas para la seguridad personal y la confianza institucional. "En este momento es una llamada de voz. Pronto será un video FaceTime. Será indistinguible de la realidad", dijo.

Fuente: Fortune