La inteligencia artificial (IA) ha llegado a ser parte integral del día a día. Las noticias sobre su desarrollo y aplicación aparecen diariamente. El potencial positivo de la IA se reconoce ampliamente en áreas como la sanidad, la educación o el medio ambiente.
Riesgos éticos asociados al uso de sistemas inteligentes
La implementación de sistemas inteligentes puede generar riesgos éticos si no se diseña y supervisa adecuadamente. Los sistemas de inteligencia artificial deben utilizarse para mejorar la toma de decisiones, pero nunca reemplazar o viciar la voluntad de la inteligencia humana.
El peor escenario sería aquel en el que el ser humano renuncie, ya sea voluntaria o forzadamente, a tomar decisiones vinculantes. Además, existe un riesgo de aumento de la capacidad de los SIA en detrimento de la capacidad de decisión del ser humano.
Posibles consecuencias negativas de la IA
La existencia de sesgos discriminatorios en los algoritmos puede influir en la toma de decisiones a todos los niveles y perder el control sobre los efectos de los SIA. También se menciona la posibilidad de favorecer la opacidad y restricción de la rendición de cuentas en la medida en que los SIA se vuelvan más complejos.
Además, podría exacerbar desigualdades sociales y/o económicas. Por último, se destaca el riesgo de mayores emisiones de carbono derivado de un uso desproporcionado de energía.
Mitigaciones para garantizar la ética en los sistemas inteligentes
Para abordar estos riesgos, es necesario aplicar los principios básicos de la bioética: beneficencia, no-maleficencia, autonomía y justicia. También se recomienda incluir la explicabilidad que implicaría inteligibilidad y transparencia de los SIA.
Se sugiere incluir la rendición de cuentas. Además, es importante seguir los principios de proporcionalidad e inocuidad, equidad y no discriminación, seguridad y protección, sostenibilidad, intimidad y protección de datos, supervisión y decisión humana, transparencia, responsabilidad y rendición de cuentas, gobernanza y colaboración adaptativa de las partes interesadas, sensibilización y educación.
Finalmente, se debe garantizar que la decisión final sobre cualquier cuestión abordada por IA sea tomada por un ser humano y ésta se adopte de forma libre e informada.