OpenAI, 미발표 AI 감지 도구와 학업 부정 문제에 직면

OpenAI는 AI 생성 콘텐츠, 특히 에세이와 연구 논문에 대한 부정행위 감지 도구를 개발했지만, WSJ에 따르면 내부 논쟁과 윤리적 고려 사항으로 인해 이를 출시하지 않았다. 이 도구는 약 1년 전부터 배포 준비가 되었고, ChatGPT 출력에서 토큰 선택을 미묘하게 변경하여 OpenAI 기술로만 감지할 수 있는 Imperceptible 패턴을 생성하는 워터마킹 기법을 사용한다. 중요한 AI 생성 텍스트에 대한 99.9%의 효과성을 자랑하고 있지만, 잠재적인 우회 방법과 감지 도구에 대한 적절한 액세스 문제, serta AI 생태계와 비영어 모국어 화자에 대한 도구의 잠재적인 영향을 포함하여 우려 사항이 지속되고 있다.