OpenAI lucha con herramienta de detección de IA no publicada en medio de inquietudes por el engaño

OpenAI ha desarrollado una herramienta de detección de trampas muy sofisticada para detectar contenido generado por IA, particularmente ensayos y artículos de investigación, pero se ha abstenido de lanzarla debido a debates internos y consideraciones éticas, según WSJ. Esta herramienta, que ha estado lista para su implementación durante aproximadamente un año, utiliza una técnica de marca de agua que altera sutilmente la selección de tokens en la salida de ChatGPT, creando un patrón imperceptible detectable solo por la tecnología de OpenAI. Aunque cuenta con una tasa de efectividad del 99,9% para textos generados por IA sustanciales, persisten inquietudes sobre posibles soluciones alternativas y el desafío de determinar el acceso adecuado a la herramienta de detección, así como su impacto potencial en hablantes no nativos de inglés y el ecosistema de IA más amplio.