La inteligencia artificial (IA) está en auge, lo que ha generado una creciente preocupación por su seguridad y privacidad. Para abordar estos desafíos, se han desarrollado guías que ofrecen información clara y práctica sobre el diseño, la creación, las pruebas y la adquisición de sistemas de IA seguros y que preserven la privacidad.
OWASP AI Exchange
El OWASP AI Exchange es un marco integral de amenazas, controles y mejores prácticas relacionados con la IA. Está alineado activamente con los estándares internacionales y los complementa. Abarca todos los tipos de IA, incluyendo la seguridad y la privacidad.
Este recurso es el principal para la seguridad y privacidad de la IA: más de 200 páginas de consejos prácticos y referencias sobre la protección de la IA y los sistemas centrados en datos contra amenazas. La IA se compone de IA Analítica, IA Discriminativa, IA Generativa y sistemas heurísticos. El contenido sirve como referencia clave para profesionales y contribuye activamente a estándares internacionales como ISO/IEC y la Ley de IA mediante colaboraciones oficiales.
Proyecto de Seguridad GenAI de OWASP
El Proyecto de Seguridad GenAI de OWASP es un proyecto paraguas que incluye varias iniciativas publicando documentos sobre la seguridad de la IA Generativa. Entre ellos se encuentra la Lista de Verificación de Seguridad y Gobernanza de la IA del LLM y el Top 10 del LLM, que presenta los riesgos más graves de los Grandes Modelos de Lenguaje.
Si desea garantizar la seguridad o la privacidad de su sistema de IA o centrado en datos (con o sin GenAI), puede utilizar el AI Exchange. Desde allí se le remitirá a material adicional relevante, incluido el contenido del proyecto de seguridad GenAI.
Cómo empezar
Si desea proteger su sistema de IA, comience con un análisis de riesgos que le guiará a través de una serie de preguntas para identificar los ataques aplicables.
Para obtener una visión general de los ataques desde diferentes perspectivas, consulte el modelo de amenazas de IA o la matriz de seguridad de IA. Si conoce el ataque contra el que necesita protegerse, búsquelo en la visión general que prefiera y haga clic para obtener más información sobre cómo hacerlo.
- Para comprender cómo se relacionan los controles con los ataques, consulte la visión general de controles o la tabla periódica.
- Si desea probar la seguridad de los sistemas de IA con herramientas, visite la página de pruebas.
- Para obtener más información sobre la privacidad de los sistemas de IA, consulte la sección de privacidad.
El Intercambio de IA es un recurso único y coherente sobre cómo proteger los sistemas de IA. Se presenta en este sitio web y está dividido en varias páginas.