Se han descubierto múltiples vulnerabilidades en modelos de inteligencia artificial (IA) y aprendizaje automático (ML) de código abierto. Estos hallazgos ponen de manifiesto riesgos significativos que podrían permitir la ejecución remota de código y el robo de información.
Vulnerabilidades en Lunary
Lunary se ve afectado por dos vulnerabilidades severas: CVE-2024-7474 y CVE-2024-7475. Ambas tienen una puntuación CVSS de 9.1.
CVE-2024-7474 permite a usuarios autenticados acceder o eliminar datos de otros usuarios sin autorización.
CVE-2024-7475 es un control de acceso inadecuado que facilita la manipulación de la configuración SAML y el acceso a información sensible.
Otra vulnerabilidad identificada en Lunary es CVE-2024-6582, que permite acceder y modificar los ajustes del proveedor de identidad de una organización diferente si se conoce la dirección de correo electrónico de un usuario objetivo. Esta vulnerabilidad puede llevar al control de cuentas.
Vulnerabilidades en ChuanhuChatGPT
En ChuanhuChatGPT se detectaron varias vulnerabilidades, incluyendo CVE-2024-5982 que permite el recorrido de directorios y la ejecución arbitraria de código.
CVE-2024-4520 permite a los atacantes acceder al historial de chat de otros usuarios sin autenticación, exponiendo información sensible, detalles financieros y conversaciones privadas.
Se identificó una vulnerabilidad de control de acceso insuficiente que permite la explotación mediante un componente obsoleto de Gradio, facilitando el acceso a archivos críticos como config.json. Esta vulnerabilidad afecta a versiones anteriores al parche lanzado el 5 de marzo de 2024.
Vulnerabilidades en LocalAI
LocalAI también ha mostrado fallos significativos que podrían permitir a los atacantes cargar archivos maliciosos y realizar ataques de sincronización de tiempo para adivinar claves de API válidas.
Protect AI señaló varias vulnerabilidades en LocalAI, incluyendo la omisión de protección de recorrido de directorios que podrían permitir la lectura de archivos arbitrarios y causar una condición de denegación de servicio (DoS).
Contribución de Protect AI
La empresa Protect AI reportó estas vulnerabilidades a través de su plataforma de recompensas Huntr.
Protect AI lanzó una herramienta llamada Vulnhuntr para analizar código Python, aprovechando el poder de los modelos de lenguaje para detectar vulnerabilidades.
En total, Protect AI ha reportado más de 32 fallos de seguridad críticos en herramientas de IA y ML, incluyendo escalamiento de privilegios y acceso a recursos restringidos.
Mitigaciones recomendadas
Se recomienda actualizar inmediatamente a las versiones más recientes de las herramientas afectadas.