Большие контекстные окна не решают проблему RAG — поэтому я построил систему, которая это делает

Увеличение размера контекста в системах RAG не повышает точность для задач агрегации — оно затрудняет обнаружение ошибок. В этой статье я сравниваю конвейеры на основе извлечения данных с детерминированным движком полного сканирования на 100 000 строк и показываю, почему вычислительные запросы должны быть полностью исключены из RAG.