Towards Data Science | Medium на русском
Подписаться
Циклическая инженерия для иерархического поиска: Чтение длинного документа по его содержанию
Enterprise Document Intelligence [Vol.1 #7quater] - 492-страничный документ содержит оглавление из 358 пунктов. Вы не можете прочитать все, а поиск top-k по каждой странице смешивает ответ с соседними. Вместо этого используйте маршрутизацию через оглавление: ограниченный цикл внутри поиска, который экономит токены и повышает точность.