TikTok publicó un anuncio que mostraba una versión deepfake del conocido youtuber MrBeast generada por IA que aseguraba regalar un iPhone 15 por menos de 2 euros en un sorteo de 10.000 móviles.

El vídeo patrocinado, que Business Insider vio en la aplicación el lunes, parecía oficial ya que incluía el logotipo de MrBeast y una marca de verificación azul junto a su nombre. Pero para los usuarios conocedores de Internet, las huellas de la manipulación de la IA eran claras. 

La voz del youtuber sonaba distorsionada y los movimientos de su boca parecían extraños.

"Solo los boomers caerían en esta mierda", comenta un usuario en el anuncio.

"¡Guau! TikTok, eres tan bueno moderando anuncios", agrega otro.

MrBeast, cuyo nombre real es Jimmy Donaldson, confirmó en una publicación en las redes sociales que el anuncio no era real.

El furor por una IA sin límites éticos está levantando nuevas barreras a la igualdad: así se enquista el machismo entre los algoritmos

"Mucha gente está recibiendo este anuncio fraudulento mío, que es un deepfake... ¿Están las plataformas de redes sociales preparadas para manejar el aumento de los deepfakes de IA? Este es un problema grave", escribió.

Al preguntar a TikTok, un portavoz de la plataforma ha asegurado que la compañía eliminó el anuncio a las pocas horas de su publicación, además de la cuenta asociada a él por violaciones de sus políticas.

En su página de política publicitaria, TikTok dice que prohíbe "medios sintéticos que contengan la imagen (visual o auditiva) de una persona real". La empresa también bloquea anuncios que incluyen infracciones de marcas registradas y otros usos indebidos de la propiedad intelectual. 

"Los anunciantes son responsables de garantizar que cualquier medio sintético que contenga una figura pública tenga el consentimiento de la misma para ser utilizado en un anuncio de esta forma", escribe la compañía.

Un representante de MrBeast se ha negado a hacer comentarios.

El contenido no autorizado generado por IA en el que aparecen celebridades se ha vuelto cada vez más común en el mundo de la publicidad en plataformas. 

Hace unos días, Tom Hanks publicó una advertencia a sus seguidores sobre un video promocional de un plan dental que presentaba una versión de sí mismo con inteligencia artificial no aprobada. Elon Musk y Leo DiCaprio se han topado con desafíos similares.

Es probable que el problema empeore a medida que la tecnología de inteligencia artificial mejore y esté más disponible.

"El realismo, la eficiencia y la accesibilidad o democratización significan que ahora esto está esencialmente en manos de la gente común", ha explicado a Business Insider Henry Ajder, investigador académico y experto en IA generativa y deepfakes. "Realmente es un momento muy profundo y esto solo es la punta del iceberg".

No todo el contenido publicitario generado por IA en el que aparecen celebridades es intrínsecamente malo, como lo demuestra una campaña reciente coordinada entre Lionel Messi y Lay's. La clave es la transparencia.

"Si alguien publica un anuncio generado por IA sin revelarlo, incluso si es perfectamente benigno, sigo pensando que debería etiquetarse y posicionarse ante una audiencia de una manera que pueda entenderlo", ha agregado Ajder.

TikTok es consciente de que el contenido generado por IA se ha vuelto omnipresente en su plataforma, ya que las versiones deepfake de Tom Cruise, el presidente Biden y el expresidente Trump se han vuelto virales, y las canciones generadas por IA vinculadas a artistas como Drake son comunes.

El mes pasado, la compañía lanzó una nueva herramienta para ayudar a los creadores a etiquetar contenido de IA y aseguró que comenzaría a probar formas de etiquetar automáticamente el contenido generado por IA.

"La IA permite oportunidades creativas increíbles, pero potencialmente puede confundir o engañar a los espectadores si no saben que el contenido ha sido generado o editado con IA", comenta la compañía.