LLM 시대에도 벡터 검색은 여전히 중요하며, 이는 대규모 언어 모델의 발전이 벡터 검색을 쓸모없게 만들었다는 생각에 반박합니다. LLM은 종종 내재된 약점 때문이 아니라 다양한 소스에 흩어져 있는 필요한 맥락 정보에 접근하지 못하기 때문에 오류를 범합니다. 벡터 검색은 에이전트에게 분산된 데이터에서 맥락을 검사, 쿼리 및 재구성할 수 있는 중요한 메모리 계층을 제공합니다. 이러한 메모리 기능은 개방형 에이전트 인프라에 필수적이며, 에이전트가 다양한 도구와 런타임에서 작동할 수 있도록 보장합니다. 프롬프트를 스토리지 계층으로 취급하면 관리하기 어려운 복잡성이 발생하지만, 벡터 검색은 관련 프로젝트 맥락을 효율적으로 검색할 수 있도록 합니다. 이를 통해 에이전트는 코드 마이그레이션, 도구 실패, 문서 및 과거 결정에 대한 특정 쿼리에 답변할 수 있습니다. 에이전트는 즉각적인 작업 메모리와 장기 참조 메모리 모두 필요하며, 벡터 검색은 모델을 압도하는 대신 관련 정보를 가져옴으로써 이를 촉진합니다. MCP 인터페이스는 AI 애플리케이션과 외부 시스템 간의 연결을 공식화하여 벡터 검색 기능을 원활하게 통합합니다. 이러한 추상화는 이식성을 허용하여 에이전트가 다른 환경에서 작동할 수 있도록 보장합니다. 에이전트 메모리는 포괄적인 메타데이터로 인덱싱된 수동으로 검색된 정보로 채워져야 합니다. 검색은 유사성에만 의존하는 대신 소스 링크를 제공하고 메타데이터 필터를 사용하여 정확해야 합니다. 에이전트는 정보를 확인하고 맹목적인 신뢰를 피할 수 있을 만큼 충분한 소스 데이터를 갖추어야 합니다. 벡터 검색은 출처와 결합될 때 에이전트 메모리를 매우 효과적이고 디버깅 가능하게 만듭니다. 실용적인 에이전트 메모리 루프는 의미별로 청킹하고, 임베딩하고, 메타데이터와 함께 데이터를 저장한 다음, 에이전트 쿼리를 기반으로 런타임 검색을 수행하는 것을 포함합니다. MCP에 의해 중재되는 이 검색 프로세스를 통해 에이전트는 의사 결정을 위한 관련 맥락에 접근할 수 있습니다. 에이전트 오류 디버깅은 검색 실패와 추론 실패를 분리하여 관리할 수 있게 됩니다. 검사 가능한 검색 계층은 청킹, 필터링 및 수집 프로세스를 대상으로 개선할 수 있도록 합니다. 궁극적으로 벡터 검색은 대체되지 않았지만, 에이전트가 액세스할 수 있는 외부 리소스를 더 많이 확보함에 따라 더 가치 있게 되었습니다.