OpenAI lutte contre l'outil de détection d'IA non publié au milieu des inquiétudes sur la tricherie

OpenAI a développé un outil de lutte contre la triche sophistiqué pour détecter le contenu généré par l'IA, en particulier les essais et les articles de recherche, mais s'est abstenu de le publier en raison de débats internes et de considérations éthiques, selon le WSJ. Cet outil, prêt à être déployé depuis environ un an, utilise une technique de watermarking qui modifie subtilement la sélection de jetons dans la sortie de ChatGPT, créant un motif imperceptible détectable uniquement par la technologie d'OpenAI. Bien qu'il affiche un taux d'efficacité de 99,9 % pour le texte généré par l'IA de manière substantielle, des inquiétudes persistent quant à d'éventuels contournements et au défi de déterminer l'accès approprié à l'outil de détection, ainsi que son impact potentiel sur les non-anglophones et l'écosystème de l'IA dans son ensemble.