OpenAI, en colaboración con Microsoft Threat Intelligence, ha logrado desarticular las actividades de cinco actores de amenazas afiliados a estados. Estos actores han utilizado servicios de inteligencia artificial para tareas como investigación, traducción, codificación y generación de contenido malicioso.
Actores identificados
Charcoal Typhoon (China) usó los servicios de OpenAI para investigar empresas, depurar código, generar scripts y crear contenido para campañas de phishing. Salmon Typhoon (China) aprovechó Open de AI para traducir documentos técnicos, obtener información sobre agencias de inteligencia, ayudar con codificación e investigar métodos para ocultar procesos en un sistema.
Crimson Sandstorm (Irán) empleó los servicios de OpenAI para soporte de scripting en desarrollo de aplicaciones y web, crear contenido para campañas de spear phishing e investigar formas comunes de evadir la detección de malware. Emerald Sleet (Corea del Norte) utilizó los servicios de OpenAI para identificar expertos y organizaciones centradas en problemas de defensa en la región de Asia-Pacífico, entender vulnerabilidades, ayudar con tareas de scripting y redactar contenido para campañas de phishing.
Forest Blizzard (Rusia) participó principalmente en investigaciones de código abierto sobre protocolos de comunicación por satélite y tecnología de imágenes de radar, así como en tareas de scripting.
Uso generalizado de los servicios
Los actores generalmente buscaban utilizar los servicios de OpenAI para consultar información de código abierto, traducir, encontrar errores de codificación y ejecutar tareas básicas de codificación. Los hallazgos de OpenAI indican que sus modelos ofrecen capacidades limitadas e incrementales para tareas maliciosas de ciberseguridad, más allá de lo alcanzable con herramientas disponibles públicamente y no impulsadas por IA.
Riesgos identificados
Los hallazgos señalan un aumento en los riesgos de seguridad como estafas, extracción de datos, pérdida de información personal identificable (PII) e incluso la amenaza de ejecución remota de código.
Mitigaciones propuestas
Para reducir estos riesgos, se proponen medidas como monitorización y desarticulación mediante inversión en tecnología y equipos para identificar y desarticular actividades de ciberatacantes afiliados a estados. También se recomienda colaboración con socios de la industria y partes interesadas para intercambiar información y promover respuestas colectivas a los riesgos relacionados con la IA.
Se sugiere iteración constante en las medidas de seguridad basada en el uso y mal uso, incorporando lecciones aprendidas del abuso de actores maliciosos en los sistemas de IA. Además, se propone transparencia pública al informar al público y a las partes interesadas sobre las actividades de actores amenazantes afiliados a estados dentro de sus sistemas y las medidas correspondientes tomadas.