LLM時代においても、ベクトル検索は依然として重要であり、大規模言語モデルの進歩がそれを時代遅れにしたという考えに反論する。LLMがしばしば誤るのは、内在的な弱さのためではなく、様々なソースに散在する必要な文脈情報へのアクセス不足のためである。ベクトル検索は、エージェントに、断片的なデータからコンテキストを検査、照会、再構築するための重要なメモリレイヤーを提供する。このメモリ機能は、エージェントが異なるツールやランタイムで機能することを保証する、オープンなエージェンティックインフラストラクチャに不可欠である。プロンプトをストレージレイヤーとして扱うと管理不能な複雑さにつながるが、ベクトル検索は関連するプロジェクトコンテキストの効率的な取得を可能にする。これにより、エージェントはコード移行、ツールの障害、ドキュメント、過去の決定に関する特定のクエリに答えることができる。エージェントは、即時のワーキングメモリと長期的な参照メモリの両方を必要とし、ベクトル検索はモデルを圧倒するのではなく、関連情報を取得することでこれを促進する。MCPインターフェースは、AIアプリケーションと外部システム間の接続を形式化し、ベクトル検索機能をシームレスに統合する。この抽象化により、エージェントが異なる環境で動作できるようになり、ポータビリティが確保される。エージェントメモリは、手動で取得した情報で構成され、包括的なメタデータでインデックス化されるべきである。取得は正確であるべきで、類似性のみに依存するのではなく、ソースリンクを提供し、メタデータフィルターを利用するべきである。エージェントは、情報を検証し、盲目的な信頼を避けるために十分なソースデータを備えるべきである。ベクトル検索は、プロビナンスと組み合わせることで、エージェントメモリを非常に効果的でデバッグ可能にする。実用的なエージェントメモリループには、意味によるチャンキング、埋め込み、メタデータ付きのデータ保存、そしてエージェントクエリに基づくランタイム取得が含まれる。MCPによって仲介されるこの取得プロセスにより、エージェントは意思決定のために関連するコンテキストにアクセスできる。エージェントのエラーのデバッグは、取得の失敗と推論の失敗を分離することで管理可能になる。検査可能な取得レイヤーは、チャンキング、フィルタリング、取り込みプロセスのターゲットを絞った改善を可能にする。最終的に、ベクトル検索は置き換えられたのではなく、エージェントがアクセスできる外部リソースが増えるにつれて、より価値が高まっている。