Los profesores pueden estar tranquilos: OpenAI lanza una herramienta para detectar textos generados por ChatGPT
Lucy Nicholson/Reuters
- OpenAI ha resuelto por fin la manera de detectar los textos generados por su herramienta de inteligencia artificial, ChatGPT.
- El nuevo programa de la compañía para resolver este problema llega en medio de la preocupación que ha provocado el hecho de que estas tecnologías ayuden a los estudiantes a copiar.
OpenAI ha escuchado las preocupaciones de todo el mundo y por fin está trabajando en la detección de textos generados por inteligencia artificial (IA).
Desde que vio la luz su herramienta para generar texto por IA, OpenAI ha causado revuelo en diferentes sectores. Las habilidades de redacción y programación con las que cuenta ChatGPT ya le han permitido lograr varias hazañas increíbles, como aprobar un examen de licencia médica en Estados Unidos, obtener un prestigioso máster en empresariales o sacarse 4 cursos en una facultad de Derecho.
Sin embargo, ChatGPT también ha levantado ampollas entre los profesores y otros profesionales de la educación, que afirman que esta herramienta ayuda a los estudiantes a copiar y a mejorar en sus plagios.
Este martes, la compañía impulsada por Microsoft ha lanzado a través de su página web un programa titulado "AI Text Classifier" (Clasificador de textos generados por inteligencia artificial) con el que planea abordar este problema.
Este programa, explica OpenAI, se encargará de marcar el texto seleccionado como: "Muy improbable", "improbable", "no queda claro", "poco probable" y "muy probable", en función del grado en el que detecte que está generado por IA.
La empresa dirigida por Sam Altman admite que esta herramienta aún no es perfecta, ya que requiere un mínimo de 1.000 caracteres para determinar si el texto está generado por inteligencia artificial y, además, es propensa a cometer errores.
"Estas herramientas producirán tanto falsos negativos, cuando no identifiquen el contenido generado por IA como tal, como falsos positivos, cuando marquen el contenido escrito por humanos como generado por IA", ha señalado OpenAI en una publicación de su página web.
"Además, los estudiantes pueden aprender rápidamente a eludir esta detección modificando algunas palabras o frases del contenido generado", detalla la empresa.
OpenAI no es la primera organización que intenta resolver este problema. La plataforma de detección de plagios Turnitin declaró a Business Insider que se encuentran trabajando en un producto similar que permita detectar el texto generado por ChatGPT. Una herramienta que un profesor de informática de Princeton calificó de "generador de chorradas".
Un estudiante de 22 años de esa misma universidad también publicó a principios de mes un programa para detectar textos generados por IA denominado GPTZero.
Otros artículos interesantes:
Conoce cómo trabajamos en Business Insider.