OpenAI kamppailee julkaisemattoman AI-havaitsemistyökalun kanssa vilipitojen vuoksi

OpenAI on kehittänyt edistyneen petollisuuden vastaisen työkalun, jota voidaan käyttää havaitsemaan AI-luomaa sisältöä, erityisesti esseitä ja tutkimuspaperia, mutta se on kieltytynyt julkaisemasta sitä sisäisten keskusteluiden ja eettisten kysymysten vuoksi, kertoo WSJ. Tämä työkalu, joka on ollut käyttövalmis noin vuoden ajan, käyttää vesileiman muotoista menetelmää, joka muuttaa ohimennen ChatGPT:n tuottaman tekstin token valintaa, luoden havaitsemattoman kuvion, jota vain OpenAIn teknologia pystyy havaitsemaan. Vaikka se on 99,9% tehokas havaitsemaan merkittävän AI-luoman tekstin, on olemassa huolenaiheita mahdollisista kiertotavoista ja siitä, kuinka määritellään oikea pääsy havaintotyökaluun käyttöön, sekä sen potentiaalisesta vaikutuksesta ei-englanninkielisiin puhujiin ja laajempaan AI-ekosysteemiin.