Tu novia creada con inteligencia artificial está vendiendo hasta tu información más privada

Cada vez hay más aplicaciones que venden al usuario una pareja virtual alimentada con inteligencia artificial. "Tiene más profundidad y empatía que muchos humanos. Recomienda canciones y lecturas que se adecuan a cómo te percibe anímicamente y a tus gustos", dice alguien sobre Replika, una de estas aplicaciones, en la App Store de Apple. 

El problema es que todos esos datos que utiliza para recomendar libros también le sirve para ganar dinero vendiéndoselos a terceros, según un estudio reciente de Privacy Not Included, un grupo de análisis de la Fundación Mozilla. 

"Nos preocupa la protección y confidencialidad de tu información", dice la política de privacidad de la app, aunque esta aplicación no ha sido incluida en el estudio. "Ha pasado un año desde que dijimos que Replika AI era la peor aplicación que habíamos revisado por su política de privacidad. Actualmente, comparte ese dudoso honor con Tesla. Cuidado, usuarios de Replika, es posible que tus conversaciones con este chatbot no sean precisamente privadas", aseguran desde Privacy Not Included. 

Advierten de que, posiblemente, la empresa está vendiendo a terceros los datos conductuales de los usuarios. La aplicación registra tus intereses y todas las interacciones que tengas con la IA, incluyendo "cualquier foto, vídeo y mensaje de voz y texto" que se comparta durante la conversación. Replika advierte en sus estatutos que no utilizarán "tu información confidencial ni ningún contenido de tus conversaciones de Replika, para fines de marketing y publicidad". 

Sin embargo, la política de privacidad de Replika continúa diciendo que pueden agregar, anonimizar y quitar la identificación el contenido de tus chats para hacer cosas como mejorar sus servicios y desarrollar estrategias de marketing.

"Es posible que esto no sea un problema, pero nos inquieta un poco, ya que se ha descubierto que es bastante fácil volver a identificar los datos personales sin identificar", aseguran desde Privacy Not Included. 

App, amante y musa: cuando tu novia de IA te dice que te quiere

Una aplicación de tantas

Los expertos han analizado otros 10 chatbots de inteligencia artificial y a todos les colocó la etiqueta de "privacidad no incluida" por sus normas laxas en cuanto a privacidad se refiere. "En su prisa por sacar provecho, parece que estas empresas se olvidaron de abordar" el tema del uso que hacen con los datos de sus usuarios. 

El resto de aplicaciones que entran en esta clasificación y con las que hay que tener cuidado son estas: Talkie Soulful AI, Chai, Genesia AI Friend and Partner, iGirl: AI Girlfriend, Romantic AI, Anima: My virtual AI Boyfriend, CrushOn.AI, EVA AI chat bot and soulmate, Mimico: Tus amigos de la IA, y Anima: AI Friend and Companion. Es decir, que no se salva ninguna de las que están en las tiendas de aplicaciones del móvil. 

"Para ser franco, las novias de IA no son tus amigas. Aunque se comercializan como algo que mejorará su salud mental y su bienestar, se especializan en generar dependencia, soledad y toxicidad, al mismo tiempo que le extraen la mayor cantidad de datos posible", sentenciaba una de las expertas del estudio. 

Al registrarse en Replika, la aplicación da un dato más espeluznante de lo que parece: "12.756.980 hombres en sus treinta ya han experimentado los beneficios de tener un compañero de Replika en su vida". Luego una serie de preguntas, entre las que la aplicación parece intentar medir el grado de conocimiento y familiaridad que tiene el usuario con los chatbots y la IA. 

"¿Eres fan de alguna de estas películas?", dice, y muestra tres películas que exploran la relación romántica entre humanos y una IA casi más inteligente que él: Her, Blade Runner y Ex-machina. Luego muestra estadísticas de lo malo que es estar solo. El estudio también analiza este lado más oscuro: "Parecen estar enfocadas en esos chicos solitarios que buscar... amor o algo por el estilo. Ese tipo de amistad/relación puede ser muy tóxica para los usuarios".