Así es Unstable Diffusion, el canal de Discord que usa IA para generar imágenes pornográficas al borde de la legalidad
Getty Images
- Unstable Diffusion es un canal de Discord que se vale de tecnología IA para, gracias a su comunidad y a bots entrenados con cientos de miles de imágenes, generar pornografía.
- Aunque se prohíbe tajantemente superar ciertos límites como la creación de imágenes de abusos a menores, Business Insider España ha podido comprobar que algunos canales no se quedan muy lejos de sobrepasarlos.
Los primeros minutos en el canal de Discord Unstable Diffusion pueden resultar francamente desconcertantes. De repente, ante los ojos del usuario surge un verdadero aluvión de texto y opciones.
Para quien no esté muy acostumbrado a esta plataforma, la primera tentación es clara: hacer scroll con el ratón del ordenador o en la pantalla del móvil, descender y tratar de ir viendo de qué trata todo.
Probablemente, es un error.
De inmediato, los primeros canales de bienvenida y establecimiento de normas y debate de Unstable Diffusion dan lugar a los famosos bots de creación de imágenes.
Si el usuario desciende un poco más, se resuelve el misterio de por qué hay tantos canales dedicados a debatir y establecer alguna que otra norma.
Un buen puñado de canales alojan, una tras otra, imágenes pornográficas de casi toda índole.
Solo para hombres, solo para mujeres (que vienen a ser casi lo mismo, solo que el segundo canal da más espacio a las imágenes lésbicas), solo queer, hentai (dibujos animados de estilo japonés manteniendo relaciones sexuales), furry (animales manteniendo relaciones sexuales), pornografía dura (hardcore), pornografía algo más suave (sofcore), bdsm (sexo de dominación que incluye elementos como cuerdas), mujeres maduras, imágenes en 3D, perversiones...
La lista suma y sigue hasta cerrarse con algunos de los canales más oscuros: horrores sintéticos, un canal de carácter algo surrealista que centrado en los genitales; horror perturbador, dedicado a ofrecer imágenes sexuales que surgirían antes en una pesadilla que en un sueño erótico; y sexo no humano, entre otros.
Todas y cada una de estas imágenes han sido generados por unos robots que, gracias a la IA y a las técnicas de aprendizaje profundo, actúan como extraños genios de la lámpara.
En los canales dedicados a ello y con la ayuda de una serie de comandos, los usuarios piden a los bots que generen todo tipo de imágenes y estos, en las medidas de sus posibilidades, tratan de complacer sus peticiones.
No son ni uno ni dos los usuarios interesados generar imágenes. Este lunes, en el lapso de apenas una hora, entre las 11 y las 12 de la mañana, solo uno de estos robots (hay 4) ha recibido unas 230 peticiones.
Tras el susto inicial, una vez entendido el tamaño del proyecto, es muy posible que el usuario inexperto retorne a los primeros canales, aquellos que ha obviado y que establecen con claridad las normas del canal, aquellos límites que no se pueden superar bajo ningún concepto.
Son 6.
El primero, evidentemente, es que aunque el canal es abierto, lo que quiere decir que cualquiera puede entrar (a Business Insider España apenas le ha llevado 3 minutos hacerlo), este está reservado a mayores de 18 años.
Por ello, antes de dar acceso al usuario, el canal pregunta por la fecha de nacimiento. Se trata del único control que hay al respecto. Basta con mentir con el año para que cualquiera con un móvil o un ordenador pueda acceder.
La segunda norma es que hay que respetar tanto las normas de Discord como la licencia de Stable Diffusion, la empresa tecnológica detrás del proyecto. La tercera es que no se pueden generar imágenes que impliquen a menores de edad ni reales ni figurados.
Tal y como ha podido comprobar este medio, aunque se trata de una norma que en general es respetada, pues existen mecanismos para que los usuarios puedan denunciar las imágenes que crean que se saltan las normas, esta es llevada al límite con cierta frecuencia en algunos canales en los que abundan, siendo generosos, creaciones de mujeres de aspecto infantil.
En cuarto lugar, no se pueden usar imágenes de famosos ni famosas, un proceder que lindaría con el deepfake y convertiría el canal en ilegal. Por último, el canal invita a todo el mundo a tratarse con respeto y a no generar imágenes excesivamente gore, es decir, demasiado violentas ni sangrientas.
He aquí un importante matiz: prohíbe el exceso de gore, no el gore en sí. ¿Y cuánto es "excesivo" en el mundo del gore? Por lo visto por este medio, el margen del que gozan los creadores desde luego es bastante amplio.
Business Insider España
IA y pornografía: un futuro más allá de la ética
Detrás del proyecto, explica el medio Tech Crunch en un amplio reportaje que dedica también a este canal, se encuentra Stable Diffusion, una IA que genera imágenes a través de textos que ha sido creada a su vez por la startup Stability AI, que hace un mes alcanzó el estatus de unicornio, según Bloomberg.
Ideada en principio para generar imágenes artísticas, la IA vio la luz a principios de este 2022. Como sucede con la inmensa mayoría de las herramientas de creación en Internet, de inmediato se empleó para generar pornografía.
Como respuesta, foros como Reddit cerraron los canales consagrados a Stable Diffusion, con lo que su comunidad de usuarios migró a plataformas como Discord, que hasta cierto punto permiten la generación de lo que se puede considerar arte para adultos, siempre y cuando este respete ciertas normas.
Hoy, dice Tech Crunch, el canal de Unstable Diffusion está recaudando 2.500 dólares al mes, un negocio al que no están ni mucho menos dispuestos a renunciar.
"En solo 2 meses, nuestro equipo se ha ampliado a más de 13 personas, además de muchos consultores y moderadores voluntarios de la comunidad", dice a Tech Crunch Arman Chaudhry, uno de los miembros del equipo de administración de Unstable Diffusion.
Sin embargo, el invento está despertando por otro lado la preocupación de algunos expertos en ética y nuevas tecnologías.
"Los riesgos que traen consigo estas imágenes incluyen la proliferación de expectativas aún más ilógicas sobre los cuerpos y el comportamiento sexual de las mujeres, la violación de la privacidad y los derechos de autor de las mujeres al alimentar el algoritmo con sus imágenes sin su consentimiento y, finalmente, la puesta en peligro de puestos de trabajo de quienes se dedican al porno".
Son palabras dichas a Tech Crunch por Ravit Dotan, vicepresidente de IA responsable en Mission Control, una plataforma que se dedica a tratar de integrar aspectos como la responsabilidad en los procesos de entrenamiento de la IA.
Pero las implicaciones de Unstable Diffusion no acaban con los trabajadores sexuales. Artistas cuyas obras han servido claramente para alimentar este tipo de algoritmos llevan también un tiempo protestando contra lo que consideran que son en muchos casos burdas imitaciones que, sin embargo, pueden terminar desplazando sus obras originales.
Un riesgo, por ahora, limitado
Aunque logradas, las imágenes pornográficas alojadas en Unstable Diffusion adolecen por el momento de una buena cantidad de defectos.
Por ejemplo, no es infrecuente que la IA tenga problemas a la hora de terminar de dibujar extremidades como brazos y piernas, y no se diga ya partes del cuerpo más complejas y comprometidas.
En ciertas creaciones particularmente fantasiosas a veces resulta difícil incluso tratar de vislumbrar qué ha querido dibujar un bot que, aunque aprende sorprendentemente rápido, aún tiene mucho margen de mejora.
La situación invita a pensar a algunos profesionales de la industria pornográfica que aún queda tiempo para que imágenes creadas por IA supongan una amenaza real a otras formas de porno más convencional como el cine en carne y hueso de toda la vida.
Esto, por no hablar de lo dificultoso que resulta generar una pornografía inclusiva en algoritmos entrenados con modelos esencialmente blancos y heterosexuales, los más abundantes.
"Para mí, el arte generado por la IA, ahora mismo, no es muy bueno", dice a Tech Crunch Milo Wissig, un pintor trans especializado en arte erótico de personas no binarias y trans.
Las limitaciones se reproducen en ámbitos como el bondage, una forma de erotismo que juega con el complejo mundo del uso de cuerdas y nudos.
"Estoy seguro de que es muy difícil conseguir que la IA haga que las cuerdas tengan algún sentido", añade Wissig. "Con el entrenamiento que ha recibido, lo que se obtiene es el material más blanco y hetero que se le ocurre a la máquina, a menos que especifiques lo contrario".
Ningún reto más importante, sin embargo, que el de la moderación de contenidos. En la mente de casi todos en la industria pesa todavía lo que ocurrió hace apenas unos meses en MindGeek, propietaria de la famosa web de pornografía Pornhub.
Esta tuvo que ver cómo el pasado junio su CEO, Feras Antoon, y su mano derecha, David Tassillo, se vieron obligados a renunciar debido a la pérdida de confianza de algunas de las plataformas de pago más importantes, tal y como contó Business Insider.
El motivo no fue otro que sus aparentes políticas demasiado laxas ante la publicación en su web de videos de sexo no consentido y pornografía infantil.
Otros artículos interesantes:
Descubre más sobre David Vázquez, autor/a de este artículo.
Conoce cómo trabajamos en Business Insider.