El gobierno del Reino Unido ha presentado su Código de Prácticas Cibernéticas de IA, el primer marco del mundo destinado a las empresas que desarrollan sistemas de inteligencia artificial. El documento establece 13 principios diseñados para mitigar riesgos como los ciberataques impulsados por IA, las fallas del sistema y las vulnerabilidades de los datos.
Aplicación del código
El Código se aplica a los desarrolladores, operadores de sistemas y organizaciones que crean, implementan o gestionan sistemas de IA. Los proveedores de IA que solo venden modelos o componentes se rigen por otras directrices pertinentes.
Objetivo del código
Según el Departamento de Ciencia, Innovación y Tecnología, el Código ayudará a los desarrolladores a crear productos de IA seguros e innovadores que impulsen el crecimiento. El marco incluye recomendaciones como la implementación de programas de capacitación en seguridad de la IA, el desarrollo de planes de recuperación, la realización de evaluaciones de riesgos, el mantenimiento de inventarios y la comunicación con los usuarios finales sobre cómo se utilizan sus datos.
Principios del código
El Código establece requisitos de ciberseguridad para todo el ciclo de vida de los sistemas de IA y se divide en cinco fases: diseño seguro, desarrollo seguro, implementación segura, mantenimiento seguro y fin de vida seguro. A continuación se detallan los principios principales:
- Concienciar sobre las amenazas y riesgos de la seguridad de la IA: Capacitar al personal sobre los riesgos de seguridad de la IA y actualizar la capacitación a medida que surjan nuevas amenazas.
- Diseñar tu sistema de IA para seguridad, además de funcionalidad y rendimiento: Evaluar los riesgos de seguridad antes de desarrollar un sistema de IA y documentar las estrategias de mitigación.
- Evaluar las amenazas y gestionar los riesgos de tu sistema de IA: Evaluar regularmente los ataques específicos de IA, como el envenenamiento de datos, y gestionar los riesgos.
- Permitir la responsabilidad humana en los sistemas de IA: Asegurarse de que las decisiones de la IA sean explicables y de que los usuarios comprendan sus responsabilidades.
- Identificar, rastrear y proteger tus activos: Mantener un inventario de los componentes de IA y proteger los datos sensibles.
- Asegurar tu infraestructura: Restringir el acceso a los modelos de IA y aplicar controles de seguridad en las API.
- Asegurar tu cadena de suministro: Realizar una evaluación de riesgos antes de adaptar modelos que no estén bien documentados o asegurados.
- Documentar tus datos, modelos y solicitudes: Publicar hashes criptográficos de los componentes del modelo que se ponen a disposición de otros interesados para que puedan verificar su autenticidad.
- Realizar pruebas y evaluaciones adecuadas: Asegurarse de que no sea posible ingeniería inversa de aspectos no públicos del modelo o de los datos de entrenamiento.
- Comunicación y procesos asociados con los usuarios finales y entidades afectadas: Comunicar a los usuarios finales dónde y cómo se utilizarán, accederán y almacenarán sus datos.
- Mantener actualizaciones regulares de seguridad, parches y mitigaciones: Proporcionar actualizaciones de seguridad y parches y notificar a los operadores de sistemas sobre las actualizaciones.
- Monitorear el comportamiento de tu sistema: Analizar continuamente los registros del sistema de IA en busca de anomalías y riesgos de seguridad.
- Asegurar la disposición adecuada de los datos y modelos: Descartar de manera segura los datos de entrenamiento o el modelo después de transferir o compartir la propiedad.
Contexto del anuncio
La publicación del Código se produce apenas unas semanas después de que el gobierno publicara el Plan de Acción de Oportunidades de IA, que describe las 50 formas en que desarrollará el sector de la IA y convertirá al país en un «líder mundial». Fomentar el talento en IA fue una parte clave de esto.
Además, se publicó apenas un día después de que el Centro Nacional de Ciberseguridad del Reino Unido instara a los proveedores de software a erradicar las llamadas «vulnerabilidades imperdonables», que son vulnerabilidades con mitigaciones que son, por ejemplo, baratas y bien documentadas, y por lo tanto fáciles de implementar.
El Director de gestión de vulnerabilidades del NCSC señaló que durante décadas los proveedores han «priorizado las ‘características’ y la ‘velocidad de comercialización’ a expensas de corregir las vulnerabilidades que pueden mejorar la seguridad a escala. Las herramientas como el Código de prácticas para proveedores de software ayudarán a erradicar muchas vulnerabilidades y garantizar que la seguridad esté «incorporada» en el software.