- OpenAI bajó silenciosamente su herramienta para detectar escritura generada por IA, citando preocupaciones de precisión.
- Los temores de que los estudiantes usen IA generativa como ChatGPT para hacer trampa han llevado a algunas escuelas a prohibir su uso.
- Los expertos le dijeron a Insider ChatGPT que exacerba los problemas subyacentes en la educación, como las pruebas excesivas y los ensayos formulados.
- ¿Ya conoces nuestra cuenta de Threads? Síguenos.
OpenAI, el creador de ChatGPT, bajó silenciosamente una herramienta diseñada para detectar contenido generado por IA (especialmente texto), citando problemas de precisión.
«A partir del 20 de julio de 2023, el clasificador de IA ya no está disponible debido a su baja tasa de precisión», escribió OpenAI en una publicación de blog que había anunciado previamente el lanzamiento de la herramienta en enero.
«Estamos trabajando para incorporar comentarios y actualmente estamos investigando técnicas de procedencia más efectivas para el texto», dijo la actualización.
Cuando OpenAI lanzó la herramienta de detección de IA —destinada a ayudar a los educadores a detectar trampas académicas— reconoció que «identificar el texto escrito por IA ha sido un punto importante de discusión entre los educadores»; sin embargo, las herramientas de detección de IA tienen limitaciones y no deberían ser el principal base de la toma de decisiones.
Rebecca Tan, profesora de la Universidad Nacional de Singapur, dijo a Insider que los educadores se están adaptando a una realidad en la que la IA generativa está ampliamente disponible.
«Muchas de las razones por las que los estudiantes podrían querer usar herramientas de inteligencia artificial —como el estrés y buscar un atajo, sin ver el valor de su educación— no son problemas que pueda resolver por mi cuenta como educador individual», dijo.
Las actuales herramientas para detectar contenido generado por IA no son tan eficientes como se quisiera
Y no es solo la herramienta de detección de OpenAI la que arroja señales de advertencia de precisión.
El lunes, Turnitin —un software de verificación de plagio utilizado por las escuelas— dijo que la nueva herramienta de la compañía que «detecta similitudes con la escritura de IA» ha revisado más de 65 millones de documentos desde su lanzamiento en abril. Sin embargo, cuando el Washington Post probó la tasa de precisión de Turnitin, la publicación encontró que el software identificó incorrectamente más de la mitad del texto introducido.
Otros medios —como Rolling Stone, Times Higher Education y USA Today— informaron incidentes separados de estudiantes acusados falsamente de usar IA para hacer trampa por parte de Turnitin.
Los expertos le dijeron a Insider en enero que ChatGPT solo exacerba los problemas subyacentes en la educación, como un énfasis excesivo en las pruebas y los ensayos formulados, en respuesta a las preocupaciones sobre el uso de la IA generativa para hacer trampa en las escuelas.
«Mientras nos centremos en la educación como resultados, GPT y la IA serán una amenaza; sin embargo, no pueden reemplazar el proceso de resolución de problemas, que es la verdadera forma de aprender», Leah Henrickson, profesora en la Universidad de Leeds, le dijo a Insider.
OpenAI no respondió a una solicitud de comentarios de Insider, enviada fuera del horario laboral habitual.
AHORA LEE: 4 indicaciones para que tus chatbots de IA se verifiquen a sí mismos y no inventen cosas
TAMBIÉN LEE: El consumo de agua de Google se está disparando y la IA solo lo empeorará
