El uso de imágenes de personas sin su permiso para alimentar algoritmos de reconocimiento facial ha generado preocupaciones entre expertos legales y defensores de los derechos civiles. Estas imágenes, obtenidas principalmente del Internet, se utilizan para entrenar sistemas que podrían eventualmente usarse para vigilar a las personas.
El funcionamiento del reconocimiento facial
El reconocimiento facial permite iniciar sesión en dispositivos como el iPhone, rastrear a delincuentes y identificar clientes leales. La tecnología se basa en algoritmos que aprenden a reconocer rostros humanos mediante la comparación de cientos de aspectos únicos de cada uno.
Para hacerlo bien, los algoritmos deben recibir cientos de miles de imágenes de una gran variedad de rostros. Cada vez más, esas fotos proceden de Internet, donde se recopilan millones de ellas sin que lo sepan las personas que las publicaron.
El uso de datos sin consentimiento
Los expertos legales y defensores de los derechos civiles alertan sobre el uso de fotos de personas comunes para impulsar la tecnología. Los rostros de estas personas se están utilizando sin su consentimiento, con el fin de desarrollar sistemas que podrían eventualmente usarse para vigilarlas.
Esto es una preocupación particular para las minorías que podrían ser objeto de perfiles y ataques. «Este es el pequeño secreto sucio de los conjuntos de entrenamiento de IA. Los investigadores a menudo simplemente toman cualquier imagen que esté disponible en la red», dijo Jason Schultz, profesor de la Facultad de Derecho de la Universidad de Nueva York.
El caso de IBM
IBM publicó una colección de casi un millón de fotos obtenidas del sitio Flickr y codificadas para describir la apariencia de los sujetos. La empresa promocionó la colección como un paso hacia la reducción del sesgo en el reconocimiento facial.
Algunos fotógrafos cuyas imágenes fueron incluidas se sorprendieron al descubrir que sus fotografías habían sido anotadas con detalles que podrían usarse para desarrollar algoritmos de reconocimiento facial. NBC News obtuvo el conjunto de datos de IBM después de que la compañía se negara a compartirlo.
John Smith, quien supervisa la investigación de IA en IBM, dijo que la empresa estaba comprometida con «proteger la privacidad de las personas y trabajará con cualquiera que solicite que se elimine una URL del conjunto de datos».
A pesar de las garantías de IBM de que los usuarios de Flickr pueden optar por no formar parte de la base de datos, NBC News descubrió que es casi imposible conseguir que se eliminen las fotos. La empresa exige a los fotógrafos que envíen por correo electrónico los enlaces a las fotos que quieren eliminar, pero no ha compartido públicamente la lista de usuarios y las fotos incluidas.
El uso generalizado de datos extraídos del Internet
IBM no es la única empresa que utiliza imágenes disponibles públicamente en Internet para entrenar sistemas de reconocimiento facial. Docenas de otras organizaciones de investigación han recopilado fotos para este fin, y muchas de las colecciones más grandes han sido extraídas de la web.
Para ver si sus fotos de Flickr forman parte del conjunto de datos, se puede introducir su nombre de usuario en una herramienta que NBC News creó basándose en el conjunto de datos de IBM.
El impacto y las preocupaciones
Algunos expertos y activistas sostienen que esto no es solo una violación de la privacidad, sino que también plantea preocupaciones más amplias sobre la mejora de la tecnología de reconocimiento facial y el temor a que las agencias de aplicación de la ley la utilicen para atacar desproporcionadamente a las minorías.
«La gente dio su consentimiento para compartir sus fotos en un ecosistema de Internet diferente», dijo Meredith Whittaker, codirectora del AI Now Institute. «Ahora se les está exigiendo o ignorando que participen en el entrenamiento de sistemas que podrían usarse de manera opresiva contra sus comunidades».
El desarrollo del reconocimiento facial
En los primeros tiempos, los investigadores pagaban a personas para que acudieran a sus laboratorios y se tomaran fotografías. Con el auge de la web durante la década de 2000, los investigadores tuvieron acceso a millones de imágenes.
Flickr se convirtió en un recurso atractivo para los investigadores debido a que muchos usuarios publicaron sus imágenes bajo licencias Creative Commons. IBM utilizó una colección de 100 millones de imágenes publicadas con licencias Creative Commons para crear su conjunto de datos Diversity in Faces.
El uso de la base de datos por parte de IBM
IBM publicó su colección de imágenes anotadas a otros investigadores para que se usara en el desarrollo de sistemas de reconocimiento facial «más justos». La empresa afirma que los sistemas pueden identificar con mayor precisión a personas de todas las razas, edades y géneros.
El conjunto de datos no vincula las fotos de los rostros de las personas con sus nombres. Sin embargo, defensores de las libertades civiles y investigadores de la ética tecnológica cuestionan los motivos de IBM, que tiene un historial de venta de herramientas de vigilancia criticadas por infringir las libertades civiles.
IBM vende un sistema llamado IBM Watson Visual Recognition, que puede estimar la edad y el género de las personas representadas en imágenes. La empresa afirma que utiliza «datos adquiridos de varias fuentes» para entrenar sus modelos de IA, pero no divulga estos datos públicamente.
IBM dijo que el conjunto de datos Diversity in nadie se utilizará para mejorar herramientas comerciales de reconocimiento facial. Sin embargo, esto parece entrar en conflicto con una afirmación previa sobre la reducción del sesgo.