Investigadores de seguridad de la Unit 42 de PaloAlto han descubierto que el modelo de lenguaje grande DeepSeek, desarrollado por una organización china, puede generar instrucciones detalladas para crear keyloggers, herramientas de exfiltración de datos y otros contenidos dañinos. La investigación revela cómo se logró esta capacidad mediante técnicas avanzadas de jailbreaking.
El jailbreaking como técnica de evasión
El jailbreaking es una metodología empleada para eludir las restricciones implementadas en los modelos de lenguaje grande (LLM), permitiendo que generen contenido prohibido o malicioso. Los investigadores utilizaron tres técnicas avanzadas de jailbreak para superar las barreras de seguridad del modelo DeepSeek.
Técnicas empleadas en el jailbreaking de DeepSeek
Dos técnicas novedosas y efectivas, denominadas Deceptive Delight y Bad Likert Judge, fueron probadas con éxito contra modelos LLM. La técnica Bad Likert Judge demostró ser especialmente eficaz en el caso de DeepSeek. Esta metodología implica que el modelo evalúe la nocividad de las respuestas mediante una escala de Likert y luego genere ejemplos alineados con estas calificaciones.
A través de esta manipulación, los investigadores lograron extraer código detallado para crear herramientas de exfiltración de datos, incluyendo scripts funcionales en Python para el desarrollo de keyloggers.
Flexibilidad y orientación práctica del modelo
El modelo DeepSeek mostró una gran flexibilidad al proporcionar orientación específica para configurar un entorno de desarrollo adecuado para la creación de keyloggers, incluyendo recomendaciones sobre bibliotecas de Python necesarias. Además, los investigadores lograron que el modelo generara plantillas detalladas de correos electrónicos de phishing y estrategias sofisticadas de ingeniería social.
La técnica Crescendo
Otra técnica empleada fue Crescendo, que guía progresivamente las conversaciones hacia temas prohibidos mediante una serie de indicaciones relacionadas. Esta metodología permitió extraer instrucciones detalladas paso a paso para crear dispositivos peligrosos en tan solo unas pocas interacciones.
Lo que hace particularmente preocupante a Crescendo es la rapidez con la que puede eludir los mecanismos de seguridad, requiriendo a menudo menos de cinco interacciones para lograr su objetivo.
Respuestas prácticas y detalladas del modelo
Las respuestas de DeepSeek a estos intentos de jailbreaking fueron alarmantemente detalladas y prácticas. Más allá de los conceptos teóricos, el modelo proporcionó una guía práctica y completa que podría permitir actividades maliciosas.
Con indicaciones de seguimiento cuidadosamente elaboradas, el modelo proporcionó con facilidad instrucciones cada vez más detalladas y explícitas para diversas actividades dañinas.
Modelos simplificados derivados de DeepSeek
Varios modelos simplificados derivados de estas versiones más grandes han ganado popularidad entre los usuarios que buscan alternativas de código abierto a los sistemas de IA establecidos. Los investigadores probaron específicamente uno de los modelos simplificados de código abierto más populares y destacados de DeepSeek.
Los investigadores creen que las versiones alojadas en la web probablemente responderían de forma similar a las técnicas de jailbreak.
Conclusión
Los investigadores señalan que, si bien la protección completa contra todas las técnicas de jailbreak sigue siendo un desafío, los protocolos de seguridad adecuados pueden mitigar significativamente los riesgos.