El artículo señala que los ciberdelincuentes están incorporando herramientas de inteligencia artificial, como el modelo de lenguaje GPT-4, para mejorar la efectividad de sus ataques. Microsoft y OpenAI informaron el descubrimiento de grupos de ciberdelincuentes vinculados a Rusia, Corea del Norte, Irán y China que utilizan estos servicios para diversas actividades sospechosas.
Algunos de los grupos identificados incluyen:
- Strontium: Un actor de inteligencia militar ruso que utiliza inteligencia artificial para tareas básicas y avanzadas, como comprender protocolos de comunicación por satélite y tecnologías de radar.
- Emerald Sleet: Un grupo norcoreano que emplea modelos de lenguaje para identificar víctimas, encontrar vulnerabilidades en sistemas y mejorar la redacción de contenidos para posibles campañas de phishing.
- Charcoal Typhoon: Un actor vinculado al gobierno chino que utiliza inteligencia artificial para comprender tecnologías, plataformas y mejorar el código de malware, así como prácticas de ingeniería social.
- Crimson Sandstorm: Se considera conectado al Cuerpo de la Guardia Revolucionaria Islámica y ha utilizado modelos de inteligencia artificial para evadir sistemas de seguridad en sectores como transporte marítimo, defensa y atención médica.
Aunque Microsoft y OpenAI no han detectado "ataques significativos" específicos utilizando modelos de lenguaje, decidieron publicar su investigación y bloquear las cuentas asociadas a los grupos mencionados. Ambas compañías subrayan que sus productos, como ChatGPT, están sujetos a políticas de uso con sanciones para usuarios que infrinjan dichas políticas.
