언어 모델에서 메모리는 AI 시스템이 관련 정보를 유지하고 회상하는 능력으로, 이는 추론하고 지속적으로 경험에서 학습하는 능력에 기여합니다. 메모리는 네 가지 카테고리로 분류됩니다. 짧은 단기 메모리는 정보를 매우 짧은 기간 동안 유지하며, 최근 메시지를 참조하고 관련 응답을 생성하는 데 사용됩니다. 짧은 장기 메모리는 정보를 중간 기간 동안 유지하며, 세션을 관리하고 대화 기록을 최신 상태로 유지하는 데 사용됩니다. 장기 메모리는 정보를 vô한하게 오래 유지하며, 학생이 잘하는 과목과 어려워하는 과목을 이해하는 데 사용됩니다. 작업 메모리는 언어 모델 자체의 구성 요소로, 모델이 정보를 보유하고 조작하고 개선하는 기능을 제공하여 모델의 추론 능력을 향상시킵니다. 그라운드링은 모델이 문맥적으로 관련 있고 의미 있는 출력을 생성하는 능력을 측정합니다. 언어 모델을 그라운드링하는 과정은 언어 모델 훈련, 마이크로 튜닝 및 외부 프로세스, 포함하여 메모리를 포함할 수 있습니다.
towardsdatascience.com
The Intersection of Memory and Grounding in AI Systems
Create attached notes ...
