より大きなコンテキストウィンドウはRAGを修正しない — だ... ノート

より大きなコンテキストウィンドウはRAGを修正しない — だから私はそれを修正するシステムを構築した

RAGシステムにおけるコンテキストサイズの増加は、集計タスクの精度を向上させず、エラーの検出を困難にします。この記事では、10万行にわたるリトリーバルベースのパイプラインと決定論的なフルスキャンエンジンをベンチマークし、なぜ計算クエリをRAGから完全にルーティングする必要があるのかを示します。