この記事は、現在のAIエージェントが推論能力の限界ではなく、効果的なメモリの欠如によって失敗していると論じています。ベンチマークはしばしばステートレスな推論をテストしますが、現実世界のエージェントは複数のターンと情報源にまたがって動作します。プロンプトに単に多くのコンテキストを追加することは、トークン制限とアテンションの希薄化により、法外に高価で効果がありません。真のエージェントの状態は、現在のセッションのためのワーキングメモリ、一般的な知識のためのセマンティックメモリ、スキルためのプロシージャルメモリ、および出所のためのソースメモリの4つのレイヤーの複合体です。プロダクショングレードのアーキテクチャは、4つのメモリレイヤーを含みます。即時の対話のための高速コンテキストバッファ、セマンティックおよびプロシージャル情報の高速リコールための検索インデックス、ライフサイクル管理を備えた長期ストレージのための永続レイヤー、および古いデータを削除するための忘却メカニズムです。エージェントメモリループは、ユーザー入力から始まり、関連するメモリのための検索インデックスのクエリが続きます。次に、ワーキングメモリ、取得されたメモリ、およびその他の関連情報を組み立てることによってコンテキストが構成されます。LLMはこの構成されたコンテキストで呼び出され、アクション実行につながります。最後に、メモリが更新され、ユーザーに応答が生成されます。成功の鍵は、システムプロンプト、現在の目標、および取得された事実を優先するコンテキストの構造化された組み立てです。ローリングサマリーは、コンテキストウィンドウサイズを管理するために会話履歴データを圧縮します。メモリ更新中に、新しい事実が抽出され永続化され、古いメモリは圧縮と期限切れによって管理されます。この記事は、実際のユーザーとセッションを処理できる信頼性の高いAIエージェントを構築するために、堅牢なメモリシステムが不可欠であることを強調しています。