Detienen a un hombre en Japón por usar una IA para quitar la censura de los genitales de actores y actrices en películas porno

Hombre ve pornografía

Getty Images

  • La policía japonesa arrestó el pasado lunes a un hombre por usar una IA para retirar la censura de videos pornográficos japoneses.
  • Gracias al aprendizaje profundo, su máquina era capaz de reconstruir la imagen originalmente pixelada de los genitales de actores y actrices, algo que la ley japonesa obliga a tapar.
  • En 2019, cerca del 96% de los videos deepfake producidos eran pornografía no consentida en la que se usaban imágenes de mujeres para simular escenas, según los expertos.
  • Descubre más historias en Business Insider España.

Un hombre de 43 años ha sido arrestado el pasado lunes por la policía japonesa por utilizar la inteligencia artificial para burlar la censura existente en los videos pornográficos japoneses.

Según el medio local NHK, el detenido, Masayuki Nakamoto, se valió de esta tecnología para desdibujar los píxeles que cubren los genitales de los actores y actrices que protagonizan la pornografía japonesa.

Se trata de una forma de censura que proviene de la actual interpretación que hacen las autoridades del  país del artículo 175 de su código penal, que prohíbe distribuir "materiales indecentes", por lo que la mayoría de la pornografía japonesa tiene que ser al menos parcialmente censurada. 

En Japón no existen muchas condenas por la vulneración de este artículo. Uno de los casos más célebres data de 2004, cuando el dibujante de manga Suwa Yuuji fue condenado al pago de 1,5 millones de yenes (al cambio actual, más de 100.000 euros) por el Tribunal Supremo de Japón, que entendió que la censura que había aplicado en uno de sus mangas eróticos era insuficiente.

El de Nakamoto, dice este mismo medio, es un caso algo distinto, pues supone el primer arresto por uso indebido de la inteligencia artificial en Japón. 

El detenido, que ha pasado ya a disposición judicial, dirigía un sitio web en el que publicaba videos sin censura de los actores y actrices porno más conocidos de Japón. 

Para burlar el pixelado de imagen, Nakamoto entrenó a un software de inteligencia artificial con montones de fotos de personas desnudas para que esta aprendiera a reconstruir la zona genital de cualquier persona, que es la concentra la censura en forma de píxeles en estos videos.

10 videojuegos que fueron prohibidos en ciertos países (y los motivos detrás de sus censuras y vetos)

Gracias a ese sistema, Nakamoto ha ganado, según NHK, unos 11 millones de yenes, más de 80.000 euros, vendiendo más de 10.000 vídeos manipulados. La detención, sin embargo, se llevó a cabo específicamente por la venta de 10 fotos falsas valoradas en algo más de 15 euros cada una.

Lo primero que ha hecho Nakamoto ha sido declararse culpable de los cargos de violación de derechos de autor y de mostrar imágenes obscenas y aclarar que lo hacía por dinero, según la NHK

"Este es el primer caso en Japón en el que la policía ha atrapado a un usuario de IA", ha explicado a Vice Daisuke Sueyoshi, abogado especializado en casos de ciberdelincuencia. "De momento, no hay ninguna ley que penalice el uso de la IA para hacer este tipo de imágenes".

Por ello, explica el letrado, Nakamoto no ha podido ser acusado, por ejemplo, de violar la intimidad de los actores y actrices cuya imagen manipuló.

Mientras abre cada vez más puertas y exhibe parte de sus interesantes usos potenciales a empresas y usuarios de todo el mundo, la inteligencia artificial está abriendo también ciertos interrogantes sobre el posible alcance que puede llegar a tener el mal uso de esta tecnología.

Esta misma semana, por ejemplo, ha trascendido la noticia de que a principios de 2020 casi una veintena de ciberdelincuentes lograron robar más de 30 millones de euros de una sucursal bancaria de Emiratos Árabes tras usar la IA para clonar la voz de un directivo de la entidad.

En Taiwán, también el pasado lunes un hombre fue detenido por vender pornografía alterada con imágenes deepfake en las que se sustituía el rostro de los protagonistas originales de las escenas por el de celebridades.

Este, ha recordado Vice, ponía las imágenes a disposición de los clientes en un grupo de Telegram con unos 6.000 miembros. La gravedad del caso ha obligado a opinar sobre ello a la presidenta de Taiwán, Tsai Ing-wen, que entiende que se trata de un delito de "violencia sexual en línea" y ha abierto la puerta a legislar contra él.

Hasta ahora, como en el caso de Nakamoto, la tecnología deepfake se ha utilizado de forma abrumadora para simular vídeos pornográficos.

Los 'deepfakes' amenazan la veracidad de la información en Internet: algunos consejos y herramientas recomendadas por 2 expertos en ciberseguridad para que la IA no te engañe

Según un informe de Sensity, una startup que ofrece servicios de detección de vídeos falsos, el 96% de los vídeos deepfake fueron en 2019 pornografía no consentida, un sector que está capitalizando la inmensa mayoría de usos ilegítimos de la inteligencia artificial. 

Tanto es así que en webs como Reddit proliferan desde hace años foros cuyo único propósito es el intercambio de imágenes y videos en los que a través de la tecnología deepfake se ha introducido el rostro de celebridades del cine y la televisión. 

Estos progresan incluso a pesar de que en 2018 la propia Reddit anunció que no admitiría videos deepfake en su plataforma.

En España, esto se ha traducido en que expertos en inteligencia artificial como Marcelino Madrigal se hayan mostrado recientemente preocupados por esta tendencia y que sean partidarios de que se regule el uso de esta tecnología.

Otros artículos interesantes:

Facebook prepara una inteligencia artificial que rastreará todos tus movimientos

Una inteligencia artificial llega más lejos que los médicos y descubre la combinación de fármacos para tratar un raro cáncer cerebral infantil

El campus universitario donde se cortaba la luz por la noche mientras sus mentes más brillantes gestaban el liderazgo chino en inteligencia artificial

Te recomendamos

Y además