Un servicio de videollamada que permite interactuar con un personaje de inteligencia artificial ha generado atención mediática tras su lanzamiento. El sistema, denominado ‘Talking Tilly’, está disponible a través de la empresa británica Xicoia Ltd y se integra en una película viral titulada Misaligned, protagonizada por el personaje de IA.
Requisitos previos para acceder al servicio
Para utilizar el servicio, los usuarios deben pasar por un escaneo facial antes de iniciar la videollamada. Este proceso se complementa con una video-selfie que permite estimar la edad del usuario; si esta estimación no es clara, se solicita la carga de un documento de identidad oficial con fotografía.
Xicoia Ltd afirma que los datos obtenidos a través del escaneo facial y el documento de identidad no se almacenan ni se generan huellas biométricas. La empresa indica que solo retiene información como un rango de edad aproximado y un número de referencia.
Funcionalidades adicionales durante la llamada
Durante cada videollamada, el sistema analiza tanto la imagen capturada por la cámara como el tono de voz del usuario para inferir su estado emocional. De esta manera, el personaje puede responder en función de lo que se detecta.
Según la política de privacidad, esta función no puede desactivarse durante una llamada específica. Si un usuario no desea que se active, simplemente debe evitar realizar la videollamada.
Base legal para el análisis emocional y verificación de edad
Tanto la verificación de edad como la detección del estado emocional se basan en el «interés legítimo» y no en el consentimiento. Esta decisión fue tomada por Xicoia Ltd en septiembre, según su historial de versiones.
Procesamiento de las llamadas
Las videollamadas son grabadas, transcritas y procesadas en tiempo real por proveedores estadounidenses. Las respuestas del personaje se generan mediante el modelo Gemini de Google a través de la plataforma Tavus, una herramienta de video conversacional.
Problemas con los sistemas de seguridad
Un clasificador automatizado analiza cada transcripción de llamada en busca de lenguaje abusivo o de odio. Si se detecta alguna incidencia, la grabación se retiene temporalmente.
En una de las tres llamadas realizadas —una conversación sobre el tiempo y los titulares de noticias— se retenió la grabación por supuestamente contener «lenguaje de odio o abusivo», algo que no ocurrió. La política establece que un revisor humano puede liberar las grabaciones marcadas erróneamente, aunque todas se eliminan definitivamente tras 24 horas.
Condiciones y límites del servicio
El servicio está disponible a nivel mundial y se incorporó a las condiciones de uso este mismo mes. Además, se prohíbe su uso en entornos laborales y se implementaron nuevos sistemas de seguridad automatizados.
La empresa también indica que el servicio cerrará definitivamente el 27 de septiembre; los minutos no utilizados se perderán.