Un investigador de ciberseguridad ha revelado una vulnerabilidad en la herramienta Microsoft 365 Copilot que permitía a los atacantes robar información confidencial de los usuarios. La brecha fue descubierta por Johann Rehberger, quien detalló el mecanismo de explotación en un blog publicado el 26 de agosto.
Metodología del ataque
El ataque comienza con una inyección rápida enviada a través de un correo electrónico malicioso o un documento compartido. Una vez activada, esta inyección solicita a Microsoft 365 Copilot que busque correos electrónicos y documentos adicionales sin el consentimiento del usuario.
Posteriormente, el atacante puede aprovechar una técnica llamada smuggling ASCII, que utiliza caracteres Unicode invisibles para insertar información confidencial dentro de hipervínculos aparentemente benignos. Cuando un usuario hace clic en estos enlaces, los datos incrustados se transmiten a un servidor de terceros controlado por el atacante.
Descubrimiento y respuesta de Microsoft
Rehberger informó inicialmente de la vulnerabilidad a Microsoft en enero de 2024. A pesar de su naturaleza sofisticada, el problema se clasificó inicialmente como de baja gravedad. Sin embargo, Rehberger demostró cómo esta cadena de exploits podría filtrar datos confidenciales, como códigos de autenticación multifactor (MFA), lo que llevó a Microsoft a reconsiderar y finalmente parchear la vulnerabilidad en julio de 2024.
Riesgos de las herramientas de inteligencia artificial
Según el investigador, la vulnerabilidad resalta los peligros potenciales que plantean las herramientas de inteligencia artificial como Microsoft 365 Copilot, que dependen de grandes modelos de lenguaje (LLM) para procesar el contenido del usuario.
El incidente subraya la importancia de implementar medidas de seguridad sólidas para proteger contra la inyección rápida y ataques relacionados, particularmente a medida que las herramientas de inteligencia artificial se integran cada vez más en los entornos empresariales.
Recomendaciones de mitigación
Para defenderse de ataques similares, Rehberger sugirió que las empresas evalúen su tolerancia y exposición al riesgo para evitar fugas de datos de Copilot e implementar prevención de pérdida de datos (DLP) y otros controles de seguridad para gestionar la creación y publicación de estas herramientas.
Microsoft no ha revelado los detalles del parche, pero Rehberger confirmó que la vulnerabilidad ya no representa una amenaza. «No está claro exactamente cómo solucionó Microsoft la vulnerabilidad y qué recomendaciones de mitigación se implementaron. Pero los exploits que construí y compartí con ellos en enero y febrero ya no funcionan, y parece que los enlaces ya no se muestran desde hace unos meses», escribió el investigador.