OpenAI ha confirmado que más de 20 operaciones maliciosas han estado utilizando su chatbot, ChatGPT, para desarrollar malware, difundir información errónea y realizar ataques de phishing. El informe destaca la primera confirmación oficial del uso de herramientas generativas de inteligencia artificial en operaciones cibernéticas ofensivas.
Primeros indicios de abuso
Los primeros signos de esta actividad fueron reportados por Proofpoint en abril, quien sospechaba que el grupo TA547 estaba implementando un cargador PowerShell escrito por IA para su carga útil final, el info-stealer Rhadamanthys. Meses después, los investigadores de HP Wolf informaron con gran confianza que ciberdelincuentes apuntaban a usuarios franceses empleando herramientas de inteligencia artificial para escribir scripts utilizados en una cadena de infección.
Abuso por actores de amenazas
El último informe de OpenAI confirma el abuso de ChatGPT y presenta casos de actores de amenazas chinos e iraníes que lo utilizan para mejorar la eficacia de sus operaciones.
Caso SweetSpecter
El primer actor de amenazas descrito por OpenAI es «SweetSpecter», un adversario chino documentado por primera vez por los analistas de Cisco Talos en noviembre de 2023 como grupo de amenazas de ciberespionaje dirigido a gobiernos asiáticos. SweetSpecter atacó directamente a OpenAI, enviando correos electrónicos de phishing con archivos adjuntos ZIP maliciosos enmascarados como solicitudes de soporte.
Caso CyberAv3ngers
El segundo caso se refiere al grupo de amenazas «CyberAv3ngers», afiliado al Cuerpo de la Guardia Revolucionaria Islámica del Gobierno iraní, conocido por atacar sistemas industriales en ubicaciones de infraestructura crítica. OpenAI informa que las cuentas asociadas con este grupo solicitaron a ChatGPT generar credenciales predeterminadas en controladores lógicos programables (PLC), desarrollar scripts personalizados y ofuscar el código.
Caso Storm-0817
El tercer caso destacado se refiere a Storm-0817, también actor de amenazas iraní. Según se informa, ese grupo utilizó ChatGPT para depurar malware, crear un scrapper de Instagram, traducir perfiles de LinkedIn al persa y desarrollar un malware personalizado para la plataforma Android junto con la infraestructura de comando y control.
El malware creado con la ayuda del chatbot puede robar listas de contactos, registros de llamadas y archivos almacenados en el dispositivo, tomar capturas de pantalla, examinar el historial de navegación del usuario y obtener su posición precisa. «En paralelo, STORM-0817 utilizó ChatGPT para respaldar el desarrollo del código del lado del servidor necesario para manejar las conexiones desde dispositivos comprometidos», se lee en el informe de OpenAI.
Todas las cuentas de OpenAI utilizadas por los actores de amenazas mencionados anteriormente fueron prohibidas y los indicadores de compromiso asociados, incluidas las direcciones IP, se compartieron con socios de ciberseguridad.