El Consejo de la Unión Europea ha aprobado definitivamente el Reglamento de Inteligencia Artificial. Este marco normativo busca regular los sistemas de inteligencia artificial (IA) con el fin de garantizar un nivel elevado y coherente de protección de los intereses públicos, incluidos la salud, la seguridad y los derechos fundamentales.
La IA representa un conjunto de tecnologías en rápida evolución que generan beneficios económicos, medioambientales y sociales muy diversos. Sin embargo, su aplicación puede generar riesgos y menoscabar intereses públicos y derechos fundamentales, tanto tangibles como intangibles, incluyendo perjuicios físicos, psíquicos, sociales o económicos.
Con el fin de garantizar un nivel elevado de protección, se establecen normas comunes para los sistemas de IA de alto riesgo. Estas normas buscan impulsar su desarrollo, utilización y adopción en el mercado interior, al tiempo que aseguran la libre circulación de mercancías y servicios.
Aplicaciones prohibidas
El Reglamento prohíbe ciertas aplicaciones de IA consideradas especialmente riesgosas. Entre ellas se incluyen:
- Categorización biométrica basada en datos sensibles y la extracción no dirigida de imágenes faciales de Internet o de CCTV para crear bases de datos de reconocimiento facial.
- El reconocimiento de emociones en el lugar de trabajo y las escuelas, la puntuación social, la vigilancia policial predictiva.
- IAs que manipulen el comportamiento humano o exploten las vulnerabilidades de las personas.
Exenciones de aplicación de la ley
Los sistemas de identificación biométrica remota (RBI) por parte de las autoridades están prohibidos en principio, salvo en situaciones enumeradas exhaustivamente y de forma estricta.
Obligaciones para sistemas de alto riesgo
Los sistemas de IA de alto riesgo deben cumplir obligaciones específicas debido a su importante daño potencial a la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho. Entre estas obligaciones se encuentra la implementación de un sistema de gestión de riesgos.
Requisitos de transparencia
Los sistemas de IA de propósito general (GPAI) y los modelos GPAI en los que se basan deben cumplir ciertos requisitos de transparencia, entre ellos:
- El cumplimiento de la ley de derechos de autor de la UE.
- La publicación de resúmenes detallados del contenido utilizado para la capacitación.