AI 에이전트 분야는 불과 18개월밖에 되지 않았으며, 이는 60년의 데이터베이스 개발 역사와 극명한 대조를 이루며 우리가 학습 곡선의 아주 초기 단계에 있음을 시사합니다. 최근 배운 교훈은 한때 허영 지표였던 토큰 소비가 컨텍스트 창의 부족함을 부각시켰다는 것입니다. 진정한 과제는 프롬프트에 더 많은 정보를 추가하는 것이 아니라, 어떤 데이터가 그곳에 속하는지를 분별하는 데 있습니다. 이는 AI 모델 외부의 영구적이고 쿼리 가능한 시스템인 메모리의 중요한 개념으로 이어집니다.효과적인 에이전트 메모리는 세 가지 필수 기능을 수행합니다. 이전에 생성되고 비용이 지불된 추론을 보존하고, 안전한 공유를 위해 역할 기반 접근 제어를 적용하며, 의미론적 검색을 통해 올바른 이전 콘텐츠를 검색할 수 있도록 합니다. 정확한 일치 검색에 의존하는 기존 데이터베이스와 달리, 에이전트 메모리는 유사성을 통해 비정형 생성 출력을 저장하고 찾아야 합니다. 유망한 엔터프라이즈 패턴은 강력한 메모리 시스템과 판사 역할을 하는 더 가볍고 오픈 가중치 모델을 쌍으로 연결하는 것을 포함합니다. 이 아키텍처는 먼저 의미론적 검색을 통해 메모리를 쿼리하고 결과를 재순위화합니다. 검색된 답변이 충분하면 비용이 많이 드는 생성 모델의 비용을 절약하면서 반환됩니다.메모리 기반 답변이 부적절한 경우, 더 가벼운 모델은 원래 솔루션을 위해 더 강력한 생성 모델로 에스컬레이션합니다. 새로 생성된 답변은 메모리에 다시 저장되어 이후 유사한 쿼리를 더 저렴하고 빠르게 만듭니다. 성숙한 에이전트 메모리는 단일 버킷이 아니라 분류학적(정의된 용어) 및 절차적(작업 순서)과 같은 인간의 기억과 유사한 유형을 포함할 것입니다. 모든 생성된 메모리가 가치 있는 것은 아니므로 인간의 큐레이션이 필수적이며, 인간은 고부가가치 정보를 우선순위화하고 주입할 것입니다. 메모리는 에이전트 개발에서 다음으로 중요한 발전으로 식별되며, 정착되고 기본 선택이 될 가능성이 가장 높은 계층입니다.