China está usando imágenes falsas generadas por IA para sembrar discordia entre los votantes estadounidenses, según Microsoft

Según los analistas de Microsoft, China lleva desde marzo utilizando inteligencia artificial generativa para crear contenidos virales que dividan a los votantes estadounidenses en las redes sociales, y cada vez lo hace mejor.

"Hemos observado a actores afiliados a China aprovechando medios visuales generados por IA en una amplia campaña que se centra en gran medida en temas políticamente divisivos, como la violencia armada o la degradación a figuras y símbolos políticos estadounidenses", transmitía Clint Watts, director general del Centro de Análisis de Amenazas de Microsoft, en un comunicado.

Los analistas del centro publicaron el pasado jueves un informe en el que destacaban las amenazas digitales procedentes de China y Corea del Norte, y afirmaban que los operativos chinos están consiguiendo sus objetivos en "mayor medida de lo observado anteriormente."

Microsoft ha advertido de la existencia de cuentas en redes sociales cercanas al Partido Comunista Chino (PCC), que estarían publicando imágenes generadas por IA como un cartel de Black Lives Matter en el que aparecen agujeros de bala y un hombre negro rindiéndose.

Horas después de que se subiera el cartel de Black Lives Matter, una cuenta que se hacía pasar por un votante conservador estadounidense volvió a publicar la imagen, quejándose de la discriminación racial, según recoge Microsoft.

China prohíbe a sus funcionarios usar el iPhone para trabajar: una 'batalla' más en su 'guerra' tecnológica con EEUU

Otro ejemplo citado fue un póster generado por IA de la Estatua de la Libertad sosteniendo un fusil de asalto, junto con la leyenda "La diosa de la violencia". Los analistas de Microsoft aseguran que lo había publicado una cuenta sospechosa de estar integrada en una operación de influencia china.

"Este contenido visual relativamente de alta calidad ya ha conseguido altos niveles de participación de usuarios auténticos de las redes sociales", han advertido los analistas.

También añaden que las nuevas imágenes son más llamativas y que votantes estadounidenses reales las están reenviando aunque contengan "indicadores comunes de generación de IA", como más de 5 dedos en una mano.

Según los analistas de Microsoft, ahora también es más difícil saber si estas cuentas son reales o no.

"A diferencia de otras campañas anteriores del mismo estilo de actores afiliados al PCC, que utilizaban nombres de usuario, contenido e imágenes de perfil generados por ordenador y fáciles de detectar, estas cuentas son más sofisticadas y están operadas por personas reales que emplean identidades ficticias o robadas para ocultar su afiliación al PCC", señalan en el informe.

Pero hay indicios reveladores, según Microsoft. Según el centro de amenazas, muchas de estas cuentas empiezan a publicar en mandarín y luego cambian a otro idioma.

Las cuentas hacían una publicación, pero luego comentaban, le daban like y compartían publicaciones de otras cuentas similares, creando un patrón en el que se potenciaban mutuamente los contenidos, según Microsoft.

"Podemos esperar que China siga perfeccionando esta tecnología con el tiempo, aunque queda por ver cómo y cuándo la desplegará a gran escala", señala Watts.

Ante el informe de Microsoft, un portavoz de la embajada china en Washington, Liu Pengyu, explicó a Business Insider en un comunicado que: "En los últimos años, algunos medios de comunicación y grupos de presión occidentales han acusado a China de utilizar la inteligencia artificial para crear cuentas falsas en las redes sociales con el fin de interferir en la política estadounidense. Tales comentarios están llenos de prejuicios y especulaciones maliciosas contra China, a lo que China se opone firmemente".

Por qué es posible que China nunca llegue a arrebatar a Estados Unidos el trono de la mayor economía mundial

En julio, la empresa de investigación de ciberseguridad Mandiant aseguró que había descubierto que agentes afiliados a China habían pagado a personas en Washington D.C. para protestar contra una prohibición del gobierno estadounidense a los bienes producidos en la región de Xinjiang. Los vídeos de sus protestas fueron "amplificados" por cuentas de redes sociales utilizadas por los agentes, añadió Mandiant.

El 29 de agosto, Meta también alertó de una campaña de influencia china que difundía información falsa, en la que estaban implicadas más de 7.700 cuentas de Facebook, 950 páginas de la red social, 15 grupos de Facebook y 15 cuentas de Instagram. La empresa aseguró que las había eliminado todas.