DetectGPT: la herramienta para detectar texto generado por IA
Ahora será mucho más difícil hacer pasar un trabajo escrito por AI como propio. Los desarrolladores de Stanford equiparán a los profesores con la herramienta DetectGPT, que puede determinar con precisión la autoría.
La intensidad del uso de modelos de lenguaje extenso (LLM) está creciendo a un ritmo acelerado en la actualidad. Este proceso fue acelerado aún más por el conocido bot de chat ChatGPT, creado sobre la base del modelo de lenguaje GPT-3.5. Resultó que puede escribir tareas de texto y trabajos finales para la universidad tan bien que es casi imposible distinguir entre el texto que generó y el escrito por el estudiante. Al darse cuenta de la magnitud de la catástrofe, muchos profesores expresaron la protesta esperada y expresaron la necesidad de sistemas que pudieran determinar si el autor del texto es una máquina o una persona.
Recientemente, los investigadores de Stanford dirigidos por Eric Mitchell presentaron el detector DetectGPT, una de las primeras herramientas para combatir los textos generados por IA en la educación. Se basa en el modelo de "zero-shot learning" de ML (la capacidad del sistema para reconocer aquello con lo que aún no está familiarizado). Permitió a DetectGPT identificar con precisión el texto escrito por inteligencia artificial. Cierto, sin especificar qué modelo de lenguaje en particular se usó para crearlo.
El equipo de desarrollo puso a prueba DetectGPT en un conjunto de datos de noticias falsas. Los resultados obtenidos mostraron que su detector es significativamente superior a otros métodos para detectar texto generado por IA. El alto rendimiento de DetectGPT sugiere que en el futuro puede convertirse en el método más prometedor para estudiar y detectar texto generado por máquinas.