OpenAI worstelt met onuitgebracht AI-detectietool na zorgen over valsspelen

OpenAI heeft een geavanceerd anticheat-hulpmiddel ontwikkeld om AI-genereren inhoud, met name essays en onderzoeksrapporten, te detecteren, maar heeft zich ervan onthouden om het vrij te geven vanwege interne debatten en ethische overwegingen, volgens WSJ. Dit hulpmiddel, dat al ongeveer een jaar klaar is voor implementatie, gebruikt een watermerktechniek die subtiel de tokenselectie in de output van ChatGPT wijzigt, waardoor een onzichtbaar patroon ontstaat dat alleen door OpenAI's technologie kan worden gedetecteerd. Terwijl het een effectiviteitspercentage van 99,9% heeft voor substantiële AI-genereren tekst, blijven er zorgen bestaan over mogelijke workarounds en de uitdaging om te bepalen wie toegang zou moeten hebben tot het detectiehulpmiddel, evenals de potentiële impact ervan op niet-native Engelsprekenden en het bredere AI-ecosysteem.