OpenAI, la desarrolladora del famoso generador de texto por inteligencia artificial ChatGPT, ha eliminado sigilosamente una herramienta que servía para identificar texto generado por IA. La compañía ha asegurado que la herramienta presentaba problemas de precisión.

"A partir del 20 de julio de 2023, el clasificador de inteligencia artificial ya no estará disponible debido a su baja tasa de precisión", ha señalado OpenAI en una actualización de 4 líneas de un artículo de su blog corporativo que había servido para anunciar el lanzamiento de la herramienta en enero.

"Estamos trabajando para incorporar los comentarios y estamos investigando técnicas de localización más eficaces para el texto", ha detallado la actualización. 

Cuando OpenAI publicó esta herramienta de detección de IA —pensada para ayudar a los profesores a detectar el plagio académico— reconocía que "la identificación de texto generado por inteligencia artificial ha sido un punto importante de debate entre los profesores", pero indicaba que estas herramientas tenían limitaciones y no debían ser la única razón para tomar decisiones.

Dos profesores que dicen haber pillado a alumnos copiando redacciones con ChatGPT explican por qué el plagio con IA puede ser difícil de demostrar

Rebecca Tan, profesora de la Universidad Nacional de Singapur, declara a Business Insider que los profesores se están adaptando a una realidad en la que la IA generativa está al alcance de todos.

"Muchas de las razones por las que los estudiantes podrían utilizar herramientas de inteligencia artificial —como el estrés o el deseo de un atajo, el no ver el valor de su educación— no son cuestiones que yo pueda resolver por mi cuenta como profesora", reconoce Tan.

Aun así, no solo es la herramienta de detección de OpenAI la que levanta sospechas con respecto a su precisión.

Este mismo lunes, Turnitin, un detector de plagio utilizado en las escuelas, defendía que su nueva herramienta, pensada para detectar "similitudes con la escritura de la IA", ha revisado más de 65 millones de documentos desde su lanzamiento en abril. 

Sin embargo, cuando el Washington Post comprobó el índice de precisión de Turnitin, el medio de comunicación descubrió que el software identificaba incorrectamente más de la mitad del texto que se le introducía.

Otros medios, como Rolling Stone, Times Higher Education o USA Today, han informado de casos en los que los estudiantes han sido falsamente acusados por Turnitin de haber utilizado la inteligencia artificial para copiar.

Ya en enero, varios expertos explicaron a Business Insider que ChatGPT solo ponía de manifiesto los problemas que ya venía afrontando la educación, como un enfoque excesivo en los exámenes y los trabajos formulaicos.

"Mientras sigamos centrándonos en la educación como resultados, los GPT y la IA seguirán siendo una amenaza, pero estos no pueden sustituir el proceso de resolución de problemas, que es la verdadera forma de aprender", declaró entonces Leah Henrickson, profesora de la Universidad de Leeds (Reino Unido).