El Reino Unido, los Estados Unidos y otros 16 países han anunciado la publicación de pautas innovadoras destinadas al desarrollo de sistemas de inteligencia artificial (IA) seguros.
Objetivo de las directrices
Las directrices buscan abordar desafíos emergentes relacionados con la ciberseguridad en el ámbito de la IA y garantizar que esta tecnología se diseñe, desarrolle y despliegue de manera segura.
Riesgos identificados
- Daños sociales como el sesgo y la discriminación
- Preocupaciones de privacidad
- Ataques adversarios dirigidos a sistemas de IA y aprendizaje automático
- Comportamientos no deseados, como afectar la clasificación de modelos
- Acciones no autorizadas a usuarios
- Extracción de información sensible
Mitigaciones propuestas
- Pruebas exhaustivas de nuevas herramientas antes de su lanzamiento público
- Implementación de salvaguardas para abordar daños a la sociedad y la privacidad
- Establecimiento de métodos sólidos para que los consumidores identifiquen contenido generado por IA
- Sistema de recompensa por errores para facilitar la detección y notificación de vulnerabilidades en sistemas de IA
- Enfoque integral denominado «seguro por diseño» que abarca el diseño seguro, desarrollo seguro, despliegue seguro y operación y mantenimiento seguros