4 trucos para aprender a identificar imágenes generadas por inteligencia artificial como las de Donald Trump o el papa Francisco

Los recientes deepfakes de Donald Trump siendo detenido por la policía estadounidense y el papa Francisco luciendo un ostentoso abrigo de plumas han causado bastante revuelo en internet. 

La imagen que mostraba al papa con un abrigo estilo Balenciaga y un imponente crucifijo fue creada utilizando Midjourney, una herramienta de inteligencia artificial generativa que fue lanzada por David Holz el año pasado. 

Midjourney genera imágenes a partir de las descripciones textuales que proporcionan los usuarios y ya ha sido utilizada para producir imágenes engañosas de diversas celebridades, como las de Donald Trump, expresidente de Estados Unidos, siendo detenido por la policía estadounidense. 

Desde que estas imágenes se volvieron virales, la herramienta ha eliminado su periodo de prueba gratuito. Holz ha explicado que esta decisión se debe a "una combinación de una demanda extraordinaria y al abuso de estos periodos de prueba".

Aun así, esto no quiere decir que se hayan acabado las imágenes falsas generadas por IA. Henry Ajder, experto en inteligencia artificial e integrante del consejo asesor europeo de la división Reality Labs de Meta (matriz de Facebook), considera que herramientas como el generador de imágenes de OpenAI, DALL-E, o Stable Diffusion ya habían demostrado un potencial similar. 

Los 'deepfakes' progresan más rápido que las herramientas que los detectan, y eso preocupa en la comunidad 'hacker': la red se llenará de 'replicantes'

"Hasta ahora este tipo de falsificaciones hiperrealistas solo había sido posible en los estudios de Hollywood y ahora las vemos a diario", afirma Ajder. "Hasta hace poco, se hubiese considerado la flor y nata del trabajo de VFX y CGI, mientras que ahora mucha gente tiene este poder al alcance de su mano".

El experto en IA advierte de que las consecuencias de estos deepfakes van a ir desde la propagación de noticias falsas sobre determinados políticos hasta la generación imágenes pornográficas sin consentimiento. Recientemente, una app de intercambio de caras llamada Facemega utilizó la cara de Emma Watson para promocionar un anuncio sexualmente sugerente.

Sin embargo, Adjer apunta que no solo hay que preocuparse por las "falsificaciones más llamativas". Las más sutiles, como la del papa Francisco, pueden "ir minando poco a poco nuestra confianza en los medios visuales y dificultar la búsqueda de la verdad". 

El miembro del consejo asesor de Meta y otro experto ofrecen 4 trucos para distinguir las imágenes reales de aquellas que han sido generadas por una inteligencia artificial. 

Algunas imágenes generadas por IA tienen un aspecto "plasticoso"

Una señal de que una imagen puede haber sido generada por Midjourney es que cuenta con un aspecto "plasticoso". Ajder afirma que se trata de una herramienta desarrollada pensando en los artistas: "Muchas de las imágenes tienen un aspecto muy estilizado, casi liso, brillante y plasticoso".

"No es una democratización, es una banalización del arte": los artistas cargan contra las imágenes generadas por IA, aunque algunos les ven potencial

Esta cualidad no se da en otras herramientas de inteligencia artificial y es probable que Midjourney la corrija conforme vaya mejorando, pero es algo que hay que tener en cuenta. 

Ojo con las incoherencias estéticas

El experto en IA sugiere que estos programas suelen tener problemas con las "consistencias semánticas", como la iluminación, las formas o la sutileza de las imágenes.

Por ejemplo, se debe comprobar si la iluminación de una persona en una imagen está en el lugar correcto, si la cabeza de un individuo es más grande de lo habitual o —incluso— si determinados rasgos como las cejas o la estructura ósea están exagerados. 

Según Ajder, otras incoherencias de este estilo incluyen imágenes en las que la gente sonríe con los dientes de abajo: "La gente sonríe con los dientes de arriba, no con los de abajo". No todos los deepfakes presentan estos signos, pero son indicadores de utilidad.

Alexey Khitrov, fundador de la empresa de seguridad biométrica ID R&D, expresa que la imagen del papa Francisco es "producto de algo que es completamente antinatural" y contiene algunos rasgos "físicamente imposibles". 

Por ejemplo, el crucifijo que parece llevar el papa en la imagen tiene una cadena que está sujeta solo por un lado. Además, sus orejas cuentan con una forma extraña y la distancia que existe entre sus gafas y el reflejo de las mismas en su cara tampoco cuadra con una representación realista.

El contexto es clave

Los factores estéticos no siempre son suficientes para identificar los deepfakes, sobre todo a medida que las herramientas de inteligencia artificial generativa se vuelven más sofisticadas. 

Khitrov aconseja dudar de aquellas imágenes que resulten sospechosas: "Intenta cotejar una imagen como si estuvieses tratando de verificar una información que acabas de recibir".

Ajder coincide en que el contexto de las representaciones visuales es fundamental, por lo que merece la pena intentar encontrar una "fuente autorizada". "Tenemos que ser conscientes de que, si algo parece engañoso o sensacionalista, es muy probable que haya algo raro. En ese momento, se trata de acudir a fuentes que cuenten con la capacidad necesaria para comprobar y verificar los hechos".

El miembro del consejo asesor de Meta recomienda hacerse preguntas como: "¿Quién lo ha compartido? ¿Dónde se ha compartido? ¿Se puede cotejar con una fuente más consolidada con capacidad reconocida para verificar determinados hechos?". 

Prueba a buscar esas imágenes a la inversa 

Si todo lo demás falla, Ajder sugiere utilizar una herramienta de búsqueda inversa de imágenes para averiguar el contexto de una imagen. "Si hiciera una búsqueda inversa de imágenes de Trump detenido, acabaría accediendo a las páginas de noticias en las que se ha compartido y explicado. Así que es esencialmente una forma de rastrear [la imagen] o hacer un mapa mental a partir de esa imagen". 

El experto en IA Recomienda Google Lens o la función de búsqueda visual de Yandex para realizar búsquedas de imágenes a la inversa.