OpenAI Luta com Ferramenta de Detecção de IA Não Lançada em Meio a Preocupações com Trapaça

A OpenAI desenvolveu uma ferramenta antifraude sofisticada para detectar conteúdo gerado por IA, particularmente ensaios e artigos de pesquisa, mas se absteve de liberá-la devido a debates internos e considerações éticas, segundo o WSJ. Essa ferramenta, que está pronta para ser implantada há cerca de um ano, utiliza uma técnica de marca d'água que altera sutilmente a seleção de tokens na saída do ChatGPT, criando um padrão imperceptível detectável apenas pela tecnologia da OpenAI. Embora tenha uma taxa de eficácia de 99,9% para textos substanciais gerados por IA, persistem preocupações sobre potenciais contornos e o desafio de determinar o acesso apropriado à ferramenta de detecção, além de seu impacto potencial em falantes não nativos de inglês e no ecossistema de IA mais amplo.