OpenAI kæmper med ikke-udgivet AI-detektionsværktøj midt i snyderygninger

OpenAI har udviklet et avanceret anticheat-værktøj til at opdage AI-genereret indhold, især essays og forskningspapirer, men har undladt at udgive det på grund af interne debatter og etiske overvejelser, ifølge WSJ. Dette værktøj, som har været klar til implementering i omkring et år, anvender en vandmærkningsteknik, der subtilt ændrer tokenvalg i ChatGPT's output, hvilket skaber et usynligt mønster, der kun kan detekteres af OpenAIs teknologi. Selv om det har en effektivitetsrate på 99,9% for betydeligt AI-genereret tekst, består bekymringer om mulige workaround og udfordringerne ved at bestemme, hvem der skal have adgang til detektionsværktøjet, samt dets potentielle indvirkning på ikke-engelsktalende og det bredere AI-økosystem.