Localizan una red de bots de Telegram que generan desnudos falsos de mujeres a partir de cualquier foto con peligrosa facilidad
- Una empresa de ciberseguridad ha encontrado una red de bots de deepfake que generan desnudos falsos de cualquier imagen, distribuyéndolas por grupos de Telegram.
- Aunque la generación de desnudos falsos siempre ha sido una tendencia oculta de los bajos fondos de internet, su creación había estado históricamente reservada a personas con altos conocimientos de informática.
- Ahora hay bots que replican este trabajo automáticamente.
- Descubre más historias en Business Insider España.
Un ecosistema de falsificación a gran escala que genera desnudos falsos en la red de mensajería Telegram a petición del contribuyente.
Este es el último descubrimiento de un grupo de programadores de Sensity, empresa de ciberseguridad centrada en la propagación de "falsificaciones visuales", que habría dado con una red de más de 100.000 imágenes compartidas en grupos de Telegram. Según relata la empresa, los canales abrían utilizado diferentes tipos de bots deepfake —una técnica de edición inteligencia artificial— para encontrar, falsificar y compartir imágenes de mujeres supuestamente desnudas a partir de sus fotos en redes sociales.
Por el momento, según ha podido adelantar The Verge, los equipos de Sensity han descubierto más de 100.000 imágenes compartidas hasta julio de 2020, de lo que se puede deducir que el número real sería, a día de hoy, mucho mayor. La mayoría de los usuarios de estos canales, aproximadamente el 70%, provendrían de Rusia y países vecinos, según la compañía.
Estos bots, de uso libre y automático, generan desnudos falsos con marcas de agua o desnudos parciales que pueden aumentar por pocos céntimos para desbloquear las imágenes al completo. De esta forma, los programadores de estos bots ofrecen diversas tarifas para adquirir las fotos, desde una "principiante" (1,28 dólares) para generar 100 desnudos falsos en 7 días sin marcas de agua hasta otras más avanzadas y costosas.
El software usado para generar estas imágenes, conocido como DeepNude, utiliza técnicas de inteligencia artificial para generar desnudos falsos a partir de imágenes reales tomadas en las redes sociales. La mayoría son obviamente falsos, con carne embadurnada o pixelada, pero algunos pueden ser fácilmente confundidos con imágenes reales, sobre todo a partir de que diversos grupos de ciberdelincuentes empezaran a utilizar ingeniería inversa para replicarlo en repositorios de código abierto y webs de torrent.
No hizo falta esperar a la popularización de Photoshop para que los desnudos falsos y no consentidos fueran una tendencia popular en ciertos foros de internet. Ahora, con los bots encriptados de Telegram, su acceso es más fácil que nunca. También la forma en que pedir las fotos a la carta.
"La diferencia clave es la accesibilidad de esta tecnología", precisa el CEO de Sensity, Giorgio Patrini, a The Verge. "Es importante notar que otras versiones del núcleo de la IA de este bot, el procesamiento y síntesis de imágenes, están disponibles libremente en los repositorios de código en línea". Lo "bueno" de estos sitios, comenta el experto, es que es necesario ser un programador y tener algún conocimiento avanzado de ordenadores para que funcionen, aparte de un hardware potente, pero las redes de mensajería han dado al traste con todo esto. En la actualidad, es un bot ilocalizable el que se encarga del trabajo.
El informe de Sensity asume que es "razonable asumir" que la mayoría de las personas que usan estos bots "están principalmente interesados en consumir pornografía de deepfake", pero estas imágenes y videos también pueden ser usados para extorsión, chantaje, acoso y diversos delitos. La empresa no tiene constancia de este tipo de acciones, pero razona que podrían estar sucediendo a espaldas de sus detectores y del propio Telegram, además de la policía.
Otros artículos interesantes:
Descubre más sobre Luis Casal, autor/a de este artículo.
Conoce cómo trabajamos en Business Insider.