OpenAI sliter med ikke utgitt AI-deteksjonstool på grunn av svindelbekymringer

OpenAI har utviklet et sofistikert anti-svindelverktøy for å detektere AI-generert innhold, spesielt essayer og forskningspapirer, men har avstått fra å utgi det på grunn av interne debatter og etiske overveielser, ifølge WSJ. Dette verktøyet, som har vært klart for utrulling i omtrent ett år, bruker en vannmerkingsteknikk som subt finjusterer tokenvalg i ChatGPTs utdata, skaper en uperceptabel mønster detekterbar bare av OpenAIs teknologi. Mens det hevder en 99,9% effektivitetsrate for betydelig AI-generert tekst, består bekymringer om potensielle omgåinger og utfordringen med å bestemme passende tilgang til deteksjonsverktøyet, samt dets potensielle innvirkning på ikke-engelsktalende og det bredere AI-økosystemet.