RSS DEV コミュニティ
フォロー
AIエージェントのために、実際に忘れることができるメモリシステムを構築しました
既存のAIエージェントのメモリシステムは、永続的な蓄積に苦しみ、古い事実が検索を汚染するため、時間の経過とともにパフォーマンスと精度が低下します。この問題は、より多くのトークンが直接的に悪い結果と遅く、愚かなエージェントと相関するため発生します。これを解決するために、recall-sqliteは積極的に忘れるメモリシステムとして開発されました。その中心的な原則は階層ストレージであり、メモリはアクセス頻度に基づいて自動的に階層間で移動されます。ホットティアは頻繁にアクセスされるメモリを保持し、高速な検索のためにANNとキーワードを利用します。ウォームティアはあまりアクセスされないメモリを格納し、キーワードとFTS5のみに依存して計算量を大幅に削減します。コールドティアは、必要に応じて自動的に昇格される、ゼロコンピューティングで無制限のメモリを格納できます。主な設計上の選択には、クエリ時にLLMを使用せず、小さなローカル埋め込みモデルのみに依存することが含まれます。従来のベクトルデータベースを避け、sqlite-vecを使用してSQLiteを使用します。このシステムは、オフライン時にキーワードとFTS5検索にフォールバックする、穏やかな劣化をサポートします。自動スキーマ移行は更新を簡素化し、APIキーやDockerなしで単一のpipインストールを提供します。約1500のメモリで6か月間の毎日の使用後、レイテンシは約80msのままで、メモリフットプリントは固定で約1.5MBです。recall-sqliteは現在、Hermes Agentエコシステムに統合されています。
