대규모 언어 모델(LLM)은 사실과 다른 정보를 자주 환각합니다. 개발자들은 전통적으로 누락된 지식을 가정하고 모델 크기나 데이터를 늘리는 방식으로 이를 해결해 왔습니다. 그러나 새로운 연구에 따르면 LLM은 종종 사실을 가지고 있지만 생성 중에 이를 기억하지 못하는 것으로 나타났습니다. 최첨단 모델은 높은 비율의 사실을 인코딩하며, 이는 기억이 주요 병목 현상임을 시사합니다.이 연구는 인코딩된 사실과 알려진 사실을 구별하기 위해 "지식 프로파일링"을 제안합니다. 인코딩은 모델이 특정 조건에서 사실을 재현할 수 있음을 의미하며, 아는 것은 다양한 표현 방식에 걸쳐 해당 사실에 대한 질문에 신뢰할 수 있게 답할 수 있음을 의미합니다. 인코딩 실패는 사전 훈련 개입이 필요하며, 기억 실패는 사후 훈련 기법으로 이점을 얻습니다.사실은 직접 기억되거나, 인코딩에 실패하거나, 기억 실패를 경험하거나, 생각하며 기억되거나, 인코딩 없이 추론될 수 있습니다. 수많은 LLM에 대한 실험은 최첨단 모델이 대부분의 사실을 인코딩하지만 직접 기억에는 어려움을 겪는다는 것을 보여줍니다. 연쇄 사고(Chain-of-Thought)와 같은 추론 시점의 사고는 인간의 기억 인출과 유사하게 기억을 크게 향상시킵니다.모델을 확장하는 것은 기억 문제를 해결하지 못하며, 접근 불가능한 인코딩된 사실을 늘려 문제를 악화시킬 수도 있습니다. 기억은 질의 표현 방식과 맥락에 크게 영향을 받으며, 드물거나 역방향 사실은 더 큰 기억 문제를 야기합니다. 개발자는 모든 사실 오류를 검색 문제로 취급하는 것을 피하고 대신 기억 향상에 집중해야 합니다.추론 시점의 추론과 생성 후 검증 파이프라인의 선택적 사용은 사실 정확도를 향상시킬 수 있습니다. 표준 정확도 지표를 넘어선 의미론적 접근을 테스트하면 모델의 실제 지식을 알 수 있습니다. 질의 재구성 및 재시도 또한 효과적입니다. WikiProfile 벤치마크는 백과사전적 사실에 초점을 맞추고 있지만, 그 방법론은 도메인별 데이터에도 적용될 수 있으며, 전문 분야에서는 인코딩이 더 중요한 문제가 될 수 있습니다. 이 연구는 사후 훈련 및 추론 시점 최적화에 초점을 전환하여 AI의 사실 정확도 향상을 더 쉽게 접근할 수 있도록 합니다.