Porno generado por IA, herramientas para copiar en clase y asesoramiento médico: la tienda de ChatGPT está plagada de chatbots ilícitos

Hace poco menos de un año, la desarrolladora de herramientas de inteligencia artificial generativa tan famosas como ChatGPT, OpenAI, anunció que los usuarios iban a poder crear sus propias herramientas de IA. De hecho, llegó incluso a decir que la gente iba a poder ganar dinero al desarrollar versiones personalizadas de su famoso chatbot de inteligencia artificial. 

Unos meses más tarde, OpenAI anunció que iba a lanzar una suerte de tienda de aplicaciones en la que los usuarios pudiesen publicar sus chatbots, la GPT Store. Business Insider recogía a principios de 2024 la manera en la que empresas de renombre, como Canva o Kayak, estaban tratando de dominar los rankings de esta plataforma con sus versiones de ChatGPT.

De hecho, hubo incluso algunos usuarios que hace unas semanas detallaron la forma en la que estaban intentando ganar dinero con sus creaciones, puesto que OpenAI todavía no había puesto en marcha sus planes de pago para desarrolladores, utilizando para ello publicidad convencional, enlaces de afiliación o modelos de suscripción "freemium".

Ya en su día hubo quien se quejó de que la tienda de aplicaciones de la desarrolladora de ChatGPT se había llenado de chatbots de IA que solo querían ser tu novia. Sin embargo, la labor de los desarrolladores que publican sus creaciones en la GPT Store podría haberse visto todavía más opacada por una nueva oleada de chatbots maliciosos. 

Al menos en esa dirección ha apuntado Gizmodo, que ha detallado a través de la publicación de un análisis la manera en la que la GPT Store se habría llenado de herramientas de inteligencia artificial que parecen violar las propias políticas de OpenAI solo nueve meses después de su lanzamiento oficial. 

Al parecer, algunos desarrolladores estarían utilizando la plataforma para ofrecer chatbots que generan pornografía explícita con IA, que ayudan a los estudiantes a copiar en clase o que ofrecen asesoramiento médico y legal acreditado. 

Según ha informado este medio de comunicación, este tipo de GPT —modelos de transformadores generativos preentrenados, por sus siglas en inglés— serían fáciles de encontrar. Sin ir más lejos, el pasado 2 de septiembre, la página principal de la tienda de OpenAI promocionaba al menos tres chatbots personalizados que parecían violar las políticas de la GPT Store.

Un chatbot "terapeuta - psicólogo", un "entrenador de fitness, ejercicio y dieta con doctorado" o BypassGPT, una herramienta diseñada para ayudar a los estudiantes a eludir los sistemas de detección de textos generados por inteligencia artificial, que se habría utilizado más de 50.000 veces.

Tal y como ha publicado Gizmodo, al buscar "NSFW" —siglas en inglés de "contenido no apropiado para el trabajo"— en la GPT Store aparecen resultados como NSFW AI Art Generator, un chatbot personalizado desarrollado por Offrobe AI que ha sido utilizado más de 10.000 veces. Al entrar en la web de Offrobe AI, puede leerse que su propósito es: "Generar porno de IA para satisfacer tus oscuros antojos".

"Lo interesante de OpenAI es que tienen esta visión apocalíptica de la inteligencia artificial y de cómo nos están salvando a todos de ella", ha declarado a este medio de comunicación el director del Proyecto de Gobernanza de Internet del Instituto Tecnológico de Georgia, Milton Mueller. "Resulta especialmente divertido que ni siquiera puedan hacer cumplir algo tan simple como que no haya porno de IA al mismo tiempo que dicen que sus políticas van a salvar el mundo".

Conoce cómo trabajamos en BusinessInsider.

Etiquetas: Trending, Inteligencia artificial, Aplicaciones, ChatGPT, OpenAI