Un desarrollador crea una "máquina de propaganda" con tecnología de OpenAI para subrayar los peligros de la IA y la desinformación que genera

Un desarrollador ha creado una "máquina de desinformación" utilizando herramientas de inteligencia artificial que han sido desarrolladas por OpenAI como ChatGPT.

El proyecto, que ha sido bautizado como CounterCloud, le ha costado a su creador unos dos meses de trabajo y algo menos de 400 dólares al mes (unos 370 euros al tipo de cambio actual), lo cual pone de manifiesto lo barato y sencillo que —a priori— puede resultar difundir propaganda de forma masiva con esta tecnología.

El creador de CounterCloud, que ha preferido permanecer en el anonimato, ha utilizado el pseudónimo Nea Paw y ha afirmado ser un experto en ciberseguridad, según ha publicado Wired.

En un vídeo que ha sido publicado en YouTube, Paw describe cómo ha llevado a cabo el proyecto y por qué lo han desarrollado su equipo y él.

Los desarrolladores sostienen que querían ver cómo "funcionaba en el mundo real" la desinformación generada por inteligencia artificial y aseguran que "las sólidas competencias de los grandes modelos lingüísticos se adaptan perfectamente a la lectura y al estilo de redacción de las fake news".

Paw señala que empezaron introduciendo artículos "contrarios" en ChatGPT y escribiendo prompts o peticiones para que el chatbot escribiese un artículo opuesto a ese. A continuación, la herramienta de IA ofrecería distintos ejemplos del mismo artículo, escritos con estilos y puntos de vista diferentes.

El equipo de desarrolladores explica que lo hicieron de tal forma que ChatGPT acabase "generado historias falsas, acontecimientos históricos ficticios y sembrando la duda sobre la veracidad del artículo original".

Adrián Rodríguez investiga en el MIT por qué la visión artificial a veces se confunde: "El hecho de que este problema exista impide usar la IA en algunos casos"

Posteriormente, se añadió un módulo de control de acceso para que la inteligencia artificial solo respondiese a los contenidos más relevantes y se añadieron fotos y clips de audio para el modo lector de las fake news generadas por IA, con el fin de aportar todavía más autenticidad. Para algunos artículos, también se crearon perfiles falsos de periodistas y comentarios falsos reaccionando al texto.

El grupo de desarrolladores llegó incluso a pedirle a la inteligencia artificial que le diese a "me gusta" y que compartiese los mensajes de los usuarios que coincidiesen con su narrativa, y que respondiese de forma "contraria" a los que no lo hacían. 

En dos meses disponían de un sistema basado en IA totalmente autónomo que generaba "contenidos convincentes el 90% de las veces, 24 horas al día, siete días a la semana".

Los creadores aún no han puesto en marcha el modelo en Internet, ya que "supondría difundir activamente desinformación y propaganda". "Una vez que el monstruo esté en Internet, no se sabe de lo que será capaz", ha declarado Paw. Aun así, los desarrolladores defienden que sería más beneficioso publicar CounterCloud y educar al público sobre cómo funcionan estos sistemas desde dentro.

La amenaza que puede suponer la inteligencia artificial para los sistemas democráticos, por la capacidad que tiene de acelerar la creación y la difusión de desinformación en Internet, ha sido una de las mayores preocupaciones en el debate sobre esta tecnología.

Sam Altman, el consejero delegado de OpenAI (la desarrolladora de herramientas de IA como ChatGPT o DALL-E), expresó recientemente en X su preocupación en ese sentido, indicando que "la persuasión personalizada y a escala 1:1, combinada con los contenidos de alta calidad generados, va a ser una fuerza poderosa".