La unidad de inteligencia de amenazas de Microsoft acaba de publicar un informe en el que revela que piratas informáticos vinculados a China han comenzado a servirse de inteligencia artificial generativa para amplificar cuestiones internas controvertidas en países como EE.UU y Taiwán.
Los actores de amenazas asociados a Pekín han usado estas herramientas para crear contenido audiovisual diseñado para provocar conflictos antes de las elecciones en el país norteamericano y en el asiático.
Así, se han compartido en redes sociales clips de audio generados por IA donde aparecía un destacado candidato a la presidencia de Taiwán en un intento por influir en los votantes hacia el candidato que más le interesa que salga al gobierno chino.
The Record Media informa de que YouTube eliminó rápidamente el contenido antes de que alcanzara a un gran número de usuarios, pero su publicación dejó una muestra de lo que actores malintencionados impulsados por distintos países pueden hacer para crear contenidos falsos que no sean fáciles de distinguir por los ciudadanos.
El mismo grupo chino de ciberdelincuentes también estaría detrás de una serie de vídeos en los que se ve a presentadores de noticias generados por IA y otros clips para acosar a políticos canadienses el año pasado.
Estos contenidos fake se han promovido a través de una red de 175 sitios web en más de 58 idiomas y cubriendo eventos geopolíticos de alto perfil, especialmente mostrando a EE.UU. de una manera negativa.
Así, se acusa al gobierno estadounidense de provocar los incendios forestales de Hawai o la promoción de teorías de la conspiración sobre el descarrilamiento de un tren en Kentucky.
"Esta es la primera vez que Microsoft Threat Intelligence ha sido testigo de cómo un actor estatal utiliza contenido de IA en un intento de influir en una elección extranjera", han señalado los investigadores de la empresa de Redmond.
Votante estadounidense parece, pero hacker chino es
Por otro lado, Microsoft también halló múltiples cuentas de redes sociales ligadas al Partido Comunista Chino que trataban de hacerse pasar por votantes estadounidenses. Dichos perfiles hacían comentarios para provocar crispación.
"China está utilizando cuentas falsas en las redes sociales para sondear a los votantes estadounidenses sobre lo que más los divide para sembrar división y posiblemente influir en el resultado de las elecciones presidenciales estadounidenses a su favor", ha explicado Clint Watts, director general del Centro de Análisis de Amenazas (MTAC) de Microsoft. "Hay poca evidencia de que estos esfuerzos hayan tenido éxito en influir en la opinión", añade.
Además, Watts advierte de que es muy probable que China siga creando y amplificando contenido generado por IA en beneficio de sus intereses este año, al haber elecciones importantes en India, Corea del Sur y EE.UU.
El responsable de la empresa tecnológica adelanta también que la experimentación de Pekín con memes, vídeos y audios creados por IA generativa continuará y "puede resultar más eficaz en el futuro".