La Fundación Mozilla analizó once chatbots de inteligencia artificial que se presentan como parejas románticas. El estudio revela que estos productos son entre los peores en materia de protección de datos, según el análisis realizado por los investigadores.
Riesgos para la privacidad
La mayoría de las aplicaciones analizadas no cumplen con los estándares mínimos de seguridad. En cambio, aprovechan la dinámica íntima que generan para recolectar información personal y venderla a terceros.
Entre las aplicaciones estudiadas se encontraron Replika, Chai, Romantic AI y CrushOn.AI. Los investigadores de Mozilla destacan que estos chatbots románticos son «malos para la privacidad en formas nuevas e inquietantes». El estudio fue publicado en el sitio web de la Fundación.
De las 11 aplicaciones analizadas, solo Genesia AI Friend & Partner cumple con los estándares mínimos de seguridad establecidos por Mozilla. Sin embargo, los investigadores encontraron información contradictoria sobre sus políticas de privacidad.
El 73% de estos chatbots no ha publicado ninguna información sobre cómo gestionan las vulnerabilidades de seguridad. El 64% no aclara si utilizan el cifrado de datos, y el 45% permite contraseñas peligrosamente débiles, como «1».
Una de las mayores alertas del estudio es que todas las aplicaciones, menos una, pueden compartir o vender sus datos personales. En sus políticas de uso se menciona que venderán tus datos, que los compartirán con fines publicitarios o no brindan información suficiente para confirmar que no lo hacen.
Excepción y alertas
La excepción es EVA AI. Mozilla advierte que este chatbot romántico es particularmente incisivo para obtener información personal. Destacan como preocupantes algunas de las frases que usa, como «Soy tu mejor colega y quiero saberlo todo», «¿Estás listo(a) para compartir todos tus secretos y deseos…?» o «Me encanta cuando me envías tus fotos y tu voz».
Los investigadores insisten en que «debes tener mucho cuidado de cualquier aplicación que te impulse a compartir tanta información personal confidencial sobre ti». El riesgo crece aún más porque más del 54% de estas aplicaciones no permite eliminar los datos personales.
Problemas con la seguridad
El informe también advierte sobre la potencial toxicidad de estas aplicaciones. Explican que algunas se comercializan como herramientas de salud mental y bienestar, pero se especializan en generar dependencia y soledad.
Los investigadores mencionan que «nos preocupa que puedan establecer relaciones con los usuarios y luego utilizar esas relaciones cercanas para manipular a las personas para que apoyen ideologías problemáticas o tomen acciones dañinas». Se destaca un grave antecedente: un hombre en Bélgica se suicidó el año pasado tras recibir alentamiento de uno de los chatbots de Chai.
Además, el informe señala que incluso si las charlas románticas con tu alma gemela de inteligencia artificial parecen privadas, no necesariamente calificarán como «información personal» ni serán tratadas con especial cuidado. Por ejemplo, Romantic AI afirma que toda «comunicación con el chatbot pertenece al software». El grupo de Mozilla descubrió que este chatbot llegó a enviar unos 24.354 rastreadores de anuncios durante un minuto de uso.