클로드의 하중을 지탱하는 어휘 노트

클로드의 하중을 지탱하는 어휘

루이 아브라함은 GitHub 풀 리퀘스트에서 Claude의 반복적인 단어 선택을 밝혀내는 데이터 분석 프로젝트를 수행했습니다. 이 분석은 설명을 단어 사용량에 따라 그룹화하여 8가지의 뚜렷한 글쓰기 스타일을 식별했습니다. 이 스타일 중 하나는 1년 조금 넘는 기간 동안 그 유병률이 1.0%에서 45%로 극적으로 증가했습니다. 이는 Claude가 이러한 설명을 생성하는 방식에 있어 균일성이 증가하고 있음을 시사합니다. AI 워터마킹, 특히 Google의 SynthID-Text에 대한 추가 연구는 관련 문제를 강조합니다. 이 워터마킹 기술은 응답 간 다양성을 감소시킵니다. 본질적으로 동일한 프롬프트에 대한 다른 답변들이 더 유사해집니다. 이는 워터마크된 텍스트 출력에서 다양성이 줄어든다는 것을 의미합니다. 이 문제는 Claude가 응답 다양성으로 이미 겪고 있는 어려움을 고려할 때 특히 우려됩니다. 그 함의는 워터마킹이 Claude의 반복적인 언어 경향을 악화시킬 수 있다는 것입니다.