El creador de DeepNude ha decidido cerrar la aplicación por los problemas con el servidor y porque asegura que "el mundo aún no está preparado para ella". En un segundo tweet, la cuenta de DeepNude emitió un pequeño comunicado donde explican que "subestimaron mucho" el interés que despertaría su aplicación, por lo que al final confirmaron que cerrarán el proyecto ya que "la probabilidad de que la gente haga mal uso de éste es demasiado alta".
DeepNude era una aplicación que utilizaba inteligencia artificial y redes neuronales para eliminar la ropa de imágenes de mujeres y recrear desnudos ultra realistas. Se trataba de una evolución de los llamados 'Deep Fakes', un algoritmo que nos anticipa el gran potencial que tiene esta tecnología así como su impacto en la sociedad.
Funcionaba de manera sencilla. DeepNude permite subir una imagen de una mujer con ropa y crea una nueva imagen de la misma persona pero donde se ha eliminado la camiseta, sujetador, bikini o cualquier prenda que tape sus partes. Una imagen marcada como "FAKE" por el propio programa, pero con un resultado bastante realista y que bien podría pasar por una imagen real.
Una aplicación que solo recreaba imágenes de mujeres
Acceder a DeepNudes era muy sencillo ya que estaba disponible online a través de una página web. Esta versión de pago tenía inicialmente un coste de 50 dólares como informa Motherboard, pero debido previsiblemente a la atención generada ha subido el coste a 99,99 dólares. Pudiendo pagar con tarjeta o a través de criptomonedas.
Dicho esto, la aplicación consigue creaba desnudos en segundos. Era tan sencilla que realmente asusta. Los desnudos falsos han existido en internet desde hace años pero con los deepfakes entramos en una nueva fase, mucho más peligrosa ya que deja en manos de cualquier persona poder generar una imagen así. Ya no hacen falta conocimientos de edición, es el algoritmo el que se encarga. Un algoritmo que únicamente funciona con mujeres, ya que cuando lo probamos con una imagen de un hombre en vez de mostrar un pene, añade de nuevo una vulva y tetas de mujer.
Como muestra el autor en su
cuenta oficial, DeepNude estaba
basado en las gafas de visión de rayos X que prometían ver a través de la
ropa. El "superpoder que siempre quisiste tener", según reza el lema
oficial de la aplicación.
Estamos
"ante una invasión de la privacidad sexual" comenta a
Vice
Danielle Citron, profesor de derecho de la Universidad de Maryland que
recientemente testificó en el Congreso por el uso de los deepfakes. Y
es que la llegada de estos desnudos falsos generados por algoritmo suponen un
nuevo capítulo en los peligros de los deepfakes.
Basada en un algoritmo Open Source
Los datos de DeepNude se guardan en local y no se suben a la nube indica la página web. El autor de la aplicación no ha querido revelar su identidad real, aunque dice llamarse 'Alberto' y procedente de Estonia. Sí explica más detalles sobre cómo funciona el algoritmo de DeepNude. El software estaría basado en pix2pix, un algoritmo open source desarrollado por la Universidad de California, Berkeley en 2017.
Se trata de un algoritmo que utiliza redes neuronales para tratar con una gran base de datos de imágenes. En este caso, más de 10.000 imágenes de mujeres desnudas que el programador habría utilizado para "entrenar" a la inteligencia artificial.
Mientras que los vídeos de deepfakes tardan horas en renderizar, estas imágenes son generadas en menos de un minuto. "Las redes son múltiples, cada una tiene una tarea diferente. Localizar la ropa, seleccionarla, especular con las posiciones del cuerpo y renderizarlo", un proceso que según explica el autor "puede hacerse en 30 segundos en un ordenador normal y puede ser mejorado en el futuro".
ClothOff y Live3D: apps con IA que desnuda a personas
ClothOff y Live3d son otras aplicaciones que se hicieron famosas por tomar una fotografía de una mujer y desnudarla al momento. Son gratuitas aunque ofrece servicios de pago y también señala en sus términos de servicio que "al cargar un archivo u otro contenido o al hacer un comentario, el usuario declara y garantiza que al hacerlo no viola ni infringe los derechos de nadie más".
Además, avisa que "con respecto a cualquier archivo o contenido que cargue en las partes públicas de nuestro sitio, usted nos otorga una licencia mundial no exclusiva, libre de regalías, perpetua e irrevocable (con derechos de sublicencia y cesión) para usar, mostrar en línea y en cualquier medios presentes o futuros, para crear trabajos derivados, para permitir descargas y/o distribuir dicho archivo o contenido".
Clothoff tiene como eslogan la frase: "¡Desnuda a una chica gratis!". No obstante, funciona también con hombres. Y tiene una aplicación disponible tanto para Telegram, iOS y Android.