Предупреждение, которое никогд... Заметка
DZone.com Feed на русском

Предупреждение, которое никогда не останавливает агента

Я искал флаг, который мог бы ограничить сумму, потраченную за сессию в DeepAgents. Жесткий лимит расходов, который останавливает цикл агента, прежде чем он исчерпает бюджет. Вместо этого существует предупреждение, и разрыв между "предупреждением" и "остановкой" оказался более интересной историей. Что уже существует: число без зубовdeepagents-code имеет CostTrackingMiddleware, который отслеживает совокупные расходы потока. Это реальная, зафиксированная сумма в долларах, рассчитанная на основе фактического использования токенов за каждый запрос, а не оценка. Отдельная функция, построенная поверх этого числа и добавленная ранее, выдает одноразовое предупреждение, когда сумма превышает установленный порог (по умолчанию 50 долларов):