OpenAI Борется с Непublicированным Инструментом Определения Искусственного Интеллекта на Фоне Ухудшения Честности

OpenAI разработал сложный античитерский инструмент для обнаружения контента, сгенерированного ИИ, особенно эссе и научных работ, но воздержался от его выпуска из-за внутренних дебатов и этических соображений, согласно WSJ. Этот инструмент, который готов к развертыванию примерно год, использует технику водяного знака, которая незаметно изменяет выбор токенов в выходе ChatGPT, создавая незаметный шаблон, обнаруживаемый только технологией OpenAI. При показателе эффективности в 99,9% для значительного текста, сгенерированного ИИ, сохраняются опасения по поводу потенциальных обходов и проблемы определения подходящего доступа к инструменту обнаружения, а также его потенциального влияния на неанглоязычных и на экосистему ИИ в целом.