Los Estados miembros y la Eurocámara han alcanzado un acuerdo provisional sobre la regulación de los modelos fundacionales y sistemas de vigilancia biométrica, que aún debe ser ratificado antes de entrar en vigor. Este texto define obligaciones y normas para una tecnología que está transformando la vida diaria, pero conlleva tanto posibilidades como riesgos.
Los 7 puntos clave
- Prohibidos los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas o orientación sexual o raza.
- Prohibidos los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o grabaciones audiovisuales y televisión.
- Prohibido el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
- Prohibido el social scoring (sistemas que puntúan a las personas en función de su comportamiento social o características personales).
- Prohibidos los sistemas que manipulan comportamiento humano y la IA usada para explotar las vulnerabilidades de las personas.
- Se permitirán los sistemas de vigilancia biométrica en tiempo real en espacios públicos, solo podrán ser empleados por las fuerzas del orden y estarán muy limitados y rodeados de estrictas salvaguardias.
- Los sistemas de inteligencia artificial generativa tendrán que cumplir criterios de transparencia, como especificar si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial, así como garantizar que los datos empleados para entrenarlos respeten los derechos de autor.
El acuerdo fue alcanzado tras tres días de intensas negociaciones y se prevé que entre en vigor hacia finales de 2026. Aunque algunas partes comenzarán a funcionar antes, el texto final aún debe ser ratificado por ambas partes.
Regulación de la inteligencia artificial generativa
Los sistemas de inteligencia artificial generativa en los que se basan modelos como ChatGPT tendrán que cumplir criterios de transparencia, garantizando que los datos empleados para su entrenamiento respeten los derechos de autor. La regulación no prohíbe el uso de esta tecnología, pero sí establece una serie de criterios para detectar modelos que pueden generar un alto riesgo en función del contexto en el que se usen.
Vigilancia biométrica
Se permitirán los sistemas de vigilancia biométrica en tiempo real en espacios públicos, solo podrán ser empleados por las fuerzas del orden y estarán muy limitados y rodeados de estrictas salvaguardias. Se requerirá una autorización judicial y la lista de crímenes que lo autoricen será muy restrictiva.
El uso «ex post» solo se permitirá para la búsqueda de una persona condenada o sospechosa de haber cometido un crimen grave. En el caso de la vigilancia en tiempo real, su uso estará limitado en «tiempo y locación» y solo se permitirá para la búsqueda de víctimas de secuestro, tráfico humano o explotación sexual, para la prevención de una amenaza terrorista «genuina y previsible», es decir, que se está produciendo en el mismo momento.
Contexto internacional
Ningún otro país tiene aún una regulación tan completa como la europea. Estados Unidos ha firmado un decreto que obliga a las tecnológicas a notificar al Gobierno cualquier avance que suponga un «riesgo grave para la seguridad nacional». Reino Unido ha convocado a una cumbre de la que surgió el primer compromiso de 28 países y de la UE sobre estos sistemas.
Si no ocurren imprevistos, es decir, si ninguna de las partes se echa atrás y tanto los Estados como la Eurocámara ratifican la ley en los próximos meses, la Ley de IA debería poder entrar totalmente en vigor hacia finales de 2026.