Una investigación reciente realizada por la asociación de consumidores estadounidense Consumer Reports ha analizado seis plataformas principales de clonación de voz disponibles para el gran público. La evaluación reveló que cinco de estas plataformas presentan medidas de seguridad débiles y fácilmente eludibles.
Las empresas evaluadas incluyen a Descript, ElevenLabs, Lovo, PlayHT, Resemble AI y Speechify. Cuatro de ellas requieren solo que los usuarios marquen una casilla afirmando tener derecho a clonar la voz, sin mecanismos reales de verificación. En el caso de Resemble AI, se exige grabación en tiempo real, aunque los investigadores lograron burlar este requisito reproduciendo un audio pregrabado.
La única plataforma que implementa una medida más robusta es Descript, la cual requiere la grabación de una declaración específica de consentimiento. Sin embargo, esta también podría ser vulnerada utilizando otros servicios de clonación de voz.
Aumentan los casos de uso lícito
Los usos potenciales de la clonación de voz con IA no son exclusivamente negativos: existen aplicaciones legítimas, como la generación de audiolibros, la ayuda a personas con discapacidades del habla y la traducción de contenido manteniendo la identidad vocal. No obstante, el mal uso representa una amenaza creciente.
Uno de los casos más notorios en Estados Unidos fue durante las primarias, cuando se difundieron llamadas automáticas con una imitación de la voz de Joe Biden instando a los votantes a no participar. El responsable fue sancionado con una multa de seis millones de dólares y la FCC prohibió posteriormente las llamadas automatizadas generadas por IA.
El robocalling, o llamadas automatizadas mediante bots, es una práctica frecuente de los spammers. Estos sistemas llaman a miles de números al azar y preparan el terreno para futuras estafas. Las estafas telefónicas también se han visto reforzadas con esta tecnología, como en la modalidad conocida como «estafa del abuelo o del tío», donde los delincuentes llaman a personas mayores haciéndose pasar por un familiar en peligro.
En el ámbito del entretenimiento, se han evidenciado abusos. Hace dos años, una canción que utilizaba voces clonadas de los artistas Drake y The Weeknd se volvió viral tras ser lanzada sin su consentimiento.
Detectar voces manipuladas
ElevenLabs ha creado un detector de voces manipuladas por IA denominado HashVoice, que permite firmar un audio para evitar la viralización de campañas de difamación o noticias falsas. Este método fue presentado en la conferencia RootedCON 2025 y utiliza técnicas como hashing, JWT y esteganografía.
Regulación y políticas de las compañías
A pesar del uso indebido creciente de esta tecnología, los defensores de los consumidores consideran que la regulación sigue siendo insuficiente. La FTC ha prohibido la suplantación de identidades gubernamentales y empresariales mediante IA, pero no ha extendido esta prohibición a la imitación de individuos.
Algunas empresas han decidido restringir el acceso a sus herramientas por temor al mal uso. Microsoft no lanzó públicamente su tecnología VALL-E 2 y OpenAI limitó el acceso a su motor de síntesis de voz. En cambio, algunas compañías continúan promoviendo el uso fraudulento, como PlayHT y Speechify, que proponen las «bromas telefónicas» como ejemplo de utilidad.
El estudio incluye una lista de prácticas recomendadas por las empresas y sugerencias adicionales sobre políticas de IA.