La plataforma Hugging Face, reconocida por su amplia biblioteca de modelos de inteligencia artificial y aprendizaje automático (IA/ML), ha sido objeto de un descubrimiento preocupante. Más de 100 modelos con potencial malicioso han sido encontrados en la plataforma.
Características de los modelos maliciosos
Los modelos maliciosos estaban diseñados para ejecutar código malicioso mediante la carga de archivos pickle. El ataque se basa en la ejecución de código remoto (RCE), aprovechando archivos pickle maliciosos como vector de ataque.
Estos modelos se hacían pasar por legítimos y podían ejecutar un código oculto al ser cargados por los usuarios. Los ataques buscan disminuir la precisión de los modelos o alterar sus resultados.
Riesgos asociados
El uso de estos modelos puede poner en riesgo la seguridad de los sistemas que los implementan. Además, permite a los atacantes obtener un shell en las máquinas comprometidas y tomar el control total de estas.
También pueden alterar resultados de los modelos o disminuir su precisión, lo cual puede tener consecuencias negativas en aplicaciones críticas.
Defensas disponibles
Para mitigar estas amenazas, se recomienda ser extremadamente cauteloso al descargar e instalar modelos de Hugging Face. También es importante revisar detenidamente los modelos antes de su implementación.
Se sugiere utilizar soluciones de seguridad capaces de detectar y bloquear archivos maliciosos. Además, desarrollar modelos menos susceptibles a manipulaciones puede ser una estrategia efectiva.
Enfoque del Adversarial Machine Learning (AML)
El Adversarial Machine Learning (AML) se enfoca en el desarrollo de estrategias para atacar y proteger modelos de ML. Este enfoque es clave para identificar y mitigar amenazas como las descritas.