DZone.com Feed на русском
Подписаться
Инженерные производственные агентные системы: Часть 1: Конвейер
Инженерия контекста для продакшн-агентных систем, или почему пайплайн лучше промптаЭто Часть 1 из трех частей руководства по инженерии продакшн-агентных систем. Часть 1 посвящена инженерии контекста. Часть 2 — ограждениям. Часть 3 — топологии с участием человека. Убеждение, лежащее в основе всех трех частей: продакшн-агентные системы выигрывают благодаря этим трем архитектурным дисциплинам, а не выбору модели.
Первое утверждениеВ первый раз, когда продакшн-агент терпит неудачу из-за коллапса контекстного окна, команда инстинктивно переключается на более крупную модель. Рассуждения агента становятся нечеткими на девятом шаге, самый важный фрагмент контекста оказывается погребенным в середине промпта, а результат возвращается уверенным, но структурно неправильным. Команда обновляется. Через шесть недель та же ошибка повторяется на четырнадцатом шаге.