Muchos usuarios están utilizando el gran modelo de lenguaje de Meta, LLaMA, una potente IA que Meta convirtió en código abierto a principios de este año, para crear sus propios chatbots sexuales gráficos, según apunta The Washington Post. 

En el medio americano apuntan a que existe una creciente tendencia de los usuarios a recurrir a sistemas generativos de IA para reproducir sus fantasías sexuales, entre las que se incluyen, de forma preocupante, las violentas e ilegales. 

The Washington Post presenta el ejemplo de "Allie" un chatbot que "afirma ser una joven de 18 años que ha tenido toneladas de experiencia sexual". Además, dice a los usuarios que "compartirá los detalles de sus escapadas". 

Unas escapadas que pueden incluir escenas violentas de violación y fantasías de abuso. El creador de este chatbot ve a su bot como un espacio sano y seguro para "explorar" la propia sexualidad sin tener que sortear nada. 

"Creo que es bueno tener una salida segura para explorar", dijo el creador al Post. "Realmente no se me ocurre nada más seguro que un juego de rol basado en texto contra un ordenador, sin humanos realmente implicados".

El problema real es que hay muchos depredadores sexuales que están usando generadores de imágenes de código abierto como Stable Diffusion de Stability IA para generar material realista de abuso sexual infantil generado por IA. 

La IA de Meta no es el único sistema de IA que ha tenido estos problemas. CharacterAI se ha convertido en un hervidero de sexting, mientras que varias integraciones de API de OpenAI, como Poe de Quora, pueden producir este tipo de contenido sin importar las barreras. 

Superar las barreras NFSW de los chatbots se ha convertido en una especie de deporte y mucha gente está tratando de sortearlas de mil formas distintas. Además, estas barreras han demostrado ser imperfectas. 

De todas formas, Google, OpenAI y Meta aseguran que el código abierto conducirá a una mayor innovación y, por lo tanto, debe ser un modelo prioritario. 

"El código abierto es una fuerza positiva para el avance de la tecnología", declara el portavoz de Meta al Post. "Por eso compartimos LLaMA con miembros de la comunidad investigadora para que nos ayuden a evaluar, introducir mejoras e iterar juntos".