OpenAI hanterar med outgivet AI-detektionsverktyg mitt i fuskbekymmer

OpenAI har utvecklat ett sofistikerat fuskverktyg för att upptäcka AI-genererat innehåll, särskilt essäer och forskningsrapporter, men har avstått från att släppa det på grund av interna debatter och etiska överväganden, enligt WSJ. Detta verktyg, som har varit redo för distribution i cirka ett år, använder en vattenstämpelsteknik som subtilt ändrar tokenval i ChatGPT:s utdata, skapar ett osynligt mönster som bara kan upptäckas av OpenAIs teknik. Medan det har en effektivitetsgrad på 99,9% för betydande AI-genererat text, kvarstår oro över potentiella workaround och utmaningen att bestämma lämplig åtkomst till detektionsverktyget, liksom dess potentiella inverkan på icke-engelsktalande och det bredare AI-ekosystemet.