OpenAI bloquea 20 operaciones cibernéticas maliciosas para luchar contra las campañas globales de ciberdelincuencia

Sorprendentemente, OpenAI ha emergido como una fuerza formidable en la batalla contra las amenazas digitales. Desde principios de año, la compañía ha desbaratado con éxito más de 20 campañas maliciosas que buscaban explotar su plataforma de IA para actividades dañinas , lo que demuestra que el futuro de la ciberseguridad ya está aquí.

Estas operaciones abarcaban desde la depuración de malware y la elaboración de desinformación hasta la creación de identidades falsas en las redes sociales. Los actores de amenazas intentaron aprovechar la plataforma de OpenAI para ayudar en actividades maliciosas como generar biografías para cuentas falsas o crear fotos de perfil generadas por IA para identidades falsas en las redes sociales en X (antes Twitter).

Sin embargo, a pesar de estos esfuerzos, OpenAI aseguró al público que ninguna de estas campañas condujo a avances revolucionarios en la creación de malware o la propagación viral de desinformación. En otras palabras, si bien los actores maliciosos están experimentando con IA, aún no han logrado avances significativos.

Cómo los cibercriminales explotaron la IA

Los actores maliciosos procedían de todos los rincones del mundo, desde China hasta Irán, y empleaban una variedad de tácticas. Un ejemplo destacado fue SweetSpecter, un grupo con sede en China que utilizaba inteligencia artificial para tareas de reconocimiento e investigación de vulnerabilidades, e incluso intentó (sin éxito) realizar ataques de phishing dirigidos a empleados de OpenAI.

Los grupos iraníes también desempeñaron un papel destacado. Los Cyber Av3ngers, vinculados al Cuerpo de la Guardia Revolucionaria Islámica de Irán (CGRI), investigaron controladores lógicos programables utilizando IA, mientras que otra entidad iraní, Storm-0817, utilizó IA para depurar malware de Android y rastrear perfiles de redes sociales.

Además de estas campañas dirigidas, OpenAI bloqueó varias operaciones de influencia a gran escala. Una de ellas, A2Z, generó contenido en inglés y francés para su difusión en las redes sociales, mientras que Stop News aprovechó imágenes generadas por IA, a menudo en estilos caricaturescos o dramáticos, para mejorar sus artículos y tuits.

Cómo desbaratar las campañas globales de desinformación

Las campañas de desinformación dirigidas a los sistemas políticos fueron otro motivo de preocupación. OpenAI informó que intervino en intentos de influir en las elecciones en Estados Unidos, Ruanda, India y la Unión Europea. Ninguno de estos esfuerzos logró una repercusión viral, pero el hecho de que los actores de amenazas buscaran manipular las elecciones subraya los crecientes riesgos que plantea la desinformación impulsada por la IA.

STOIC, una empresa israelí también conocida como Zero Zeno, estuvo entre los actores clave en este espacio, generando comentarios en las redes sociales sobre las elecciones indias, una actividad que ya había sido revelada tanto por Meta como por OpenAI a principios de este año.

La vigilancia constante de OpenAI también condujo al descubrimiento de otras dos redes, Bet Bot y Corrupt Comment, que usaban su API para generar conversaciones en X y vincular a los usuarios con sitios de apuestas o inundar las redes sociales con comentarios inventados.

El papel de la IA en la desinformación dirigida a microsegmentos

La IA generativa tiene el potencial de ser utilizada como arma no solo para la desinformación a gran escala, sino también para la microsegmentación. Según un informe reciente de la empresa de ciberseguridad Sophos, la IA puede ser manipulada para difundir desinformación política altamente personalizada a través de correos electrónicos, sitios web y personajes falsos. Al adaptar cuidadosamente los mensajes a puntos específicos de la campaña, los actores de amenazas pueden engañar a los votantes a un nuevo nivel, posiblemente alterando los resultados electorales o influyendo en las opiniones con información falsa.

Los investigadores advierten que es inquietantemente fácil asociar cualquier figura o movimiento político con una postura política que en realidad quizá no apoyen, lo que siembra confusión entre los votantes y daña el proceso democrático.

El compromiso de OpenAI con la ciberseguridad

Si bien la IA ofrece oportunidades de progreso sin precedentes, también presenta serios desafíos en materia de seguridad. OpenAI ha demostrado que está a la altura de la tarea de contrarrestar los intentos maliciosos de explotar su tecnología. Sin embargo, es probable que el juego del gato y el ratón entre los expertos en ciberseguridad y los cibercriminales continúe.

Los esfuerzos de OpenAI por desbaratar más de 20 campañas globales este año marcan una victoria significativa, pero la lucha está lejos de terminar. A medida que la IA evoluciona, también lo harán las tácticas utilizadas por los actores de amenazas. La vigilancia constante y la innovación serán clave para garantizar que la IA siga siendo una fuerza para el bien, en lugar de una herramienta para el engaño digital.