Los piratas informáticos iraníes utilizaron ChatGPT de forma indebida en ciberataques dirigidos contra infraestructuras críticas
En un informe innovador, OpenAI reveló cómo los piratas informáticos iraníes explotaron ChatGPT para potenciar los ciberataques a los sistemas de control industrial (ICS). El informe arroja luz sobre las actividades cibernéticas llevadas a cabo por grupos como CyberAv3ngers, vinculado al Cuerpo de la Guardia Revolucionaria Islámica de Irán (CGRI), y otros patrocinados por China.
Estos actores de amenazas utilizaron ChatGPT para reconocimiento, explotación de vulnerabilidades y acciones posteriores al ataque. Si bien OpenAI enfatiza que la IA no ofreció nuevas capacidades, sí ayudó a estos piratas informáticos a realizar ataques de manera más eficiente utilizando técnicas disponibles públicamente.
Tabla de contenido
El grupo iraní CyberAv3ngers y los ataques a instalaciones de agua
Este año, CyberAv3ngers ganó notoriedad por atacar a empresas de suministro de agua en Irlanda y Pensilvania, causando interrupciones significativas. El grupo explotó sistemas ICS poco seguros que estaban expuestos a Internet y usaban contraseñas predeterminadas. Su objetivo eran los controladores lógicos programables (PLC), dispositivos críticos que controlan procesos industriales.
Su uso de ChatGPT implicó solicitar al chatbot información sobre enrutadores industriales, PLC y contraseñas predeterminadas para dispositivos de infraestructura crítica como los enrutadores Tridium Niagara y Hirschmann RS.
Mal uso de la IA para ciberataques
Además de los objetivos específicos de ICS, CyberAv3ngers solicitó la ayuda de ChatGPT para ocultar códigos maliciosos y escanear redes en busca de vulnerabilidades explotables. El grupo también intentó encontrar formas de acceder a las contraseñas de macOS.
Sin embargo, OpenAI aclaró que estas actividades no proporcionaron a los piratas informáticos ninguna capacidad nueva o avanzada más allá de las que están disponibles mediante herramientas que no son de IA. Esto pone de relieve los peligros del uso indebido de la IA, incluso si la información obtenida no es revolucionaria.
Otros actores de amenazas involucrados
Además de CyberAv3ngers, otro grupo iraní conocido como Storm-0817 hizo un uso indebido de ChatGPT. Intentaron desarrollar malware para Android y extraer datos de Instagram, aprovechando la inteligencia artificial para traducir perfiles de LinkedIn al persa. Si bien no son tan directamente perjudiciales como los ataques de ICS, estas actividades reflejan esfuerzos más amplios para utilizar la inteligencia artificial como arma en operaciones cibernéticas.
El informe también menciona a SweetSpectre, un grupo vinculado a China que utilizó ChatGPT para desarrollar malware e investigar vulnerabilidades. Cabe destacar que SweetSpectre intentó enviar correos electrónicos cargados de malware a empleados de OpenAI, pero el ataque fue frustrado antes de que alcanzara sus objetivos.
El panorama más amplio
El informe destaca el creciente riesgo de un uso indebido de la IA en la ciberguerra. Aunque la IA, incluido ChatGPT, puede agilizar las tareas de los usuarios legítimos, también puede servir como herramienta para los actores maliciosos. El enfoque proactivo de OpenAI para detectar y neutralizar estas amenazas es vital para frenar su impacto.
Esto plantea preguntas para la industria de la ciberseguridad: ¿cómo se puede proteger la IA de un uso indebido? ¿Qué medidas son necesarias para evitar que los actores amenazantes utilicen estas herramientas para mejorar sus capacidades?
Estas revelaciones deberían impulsar a las industrias y a los gobiernos a repensar las estrategias de seguridad, especialmente para la infraestructura crítica, y priorizar el cierre de las brechas que permiten a los piratas informáticos explotar los sistemas vulnerables.
La IA tiene un enorme potencial para hacer avanzar las industrias y mejorar la eficiencia, pero, como muestra el informe, también es un arma de doble filo. Si se utiliza de forma indebida, puede amplificar las capacidades de los ciberdelincuentes y los actores de los estados-nación. Para mantenerse a la vanguardia de estas amenazas se requiere una vigilancia constante, defensas más sólidas y un desarrollo responsable de las tecnologías de IA.
El papel de ChatGPT en estos incidentes puede ser limitado, pero sirve como llamada de atención sobre las implicaciones más amplias de la IA en el panorama de la ciberseguridad.