OpenAI lotta con strumento di rilevamento AI non pubblicato tra preoccupazioni per il truffe

OpenAI ha sviluppato un sofisticato strumento anti-truffa per rilevare contenuti generati da IA, in particolare saggi e articoli di ricerca, ma si è astenuto dal rilasciarlo a causa di dibattiti interni e considerazioni etiche, secondo il WSJ. Questo strumento, pronto per l'implementazione da circa un anno, utilizza una tecnica di watermarking che altera sottilmente la selezione di token nell'output di ChatGPT, creando un pattern impercettibile rilevabile solo dalla tecnologia di OpenAI. Pur vantando un tasso di efficacia del 99,9% per testi sostanziali generati da IA, persistono preoccupazioni riguardo a potenziali aggiramenti e la sfida di determinare l'accesso appropriato allo strumento di rilevamento, nonché il suo impatto potenziale su parlanti non madrelingua inglesi e sull'ecosistema IA più ampio.