Агентные рабочие процессы, которые безупречно работают локально, часто терпят неудачу в продакшене из-за критических инженерных пробелов. Эти сбои вызваны утечками памяти, слепотой при оценке и хрупкостью инструментов, а не присущей сложностью. LLM являются без сохранения состояния, что делает ограничения контекстного окна и память сессии значительным препятствием в продакшене. Наивное накопление промптов переполняет контекстные окна, что приводит к увеличению задержки, стоимости и снижению качества рассуждений.Агенты в продакшене требуют гибридной системы памяти с буферами кратковременной памяти, векторными вложениями средней длительности и структурированными данными долговременной памяти. Традиционные модульные тесты недостаточны для LLM; продакшен требует оценки LLM как судьи и эталонных наборов данных для регрессионного тестирования. Хрупкость инструментов возникает из-за необработанных ошибок API, проблем с сетью и изменений схемы, что требует надежных механизмов повторных попыток и прерывателей цепи.Оркестрация инструментов должна включать экспоненциальное увеличение задержки при повторных попытках, прерыватели цепи для внешних зависимостей и проверку схемы для предотвращения ошибок. Эффективная наблюдаемость через логирование на уровне трассировки, отслеживание затрат и механизмы выхода для человека в цикле имеет решающее значение. Преодоление этих пробелов смещает фокус с инженерии промптов на инженерию систем агентов, требуя дисциплины в управлении памятью, тестировании, инструментарии и наблюдаемости. Готовность к продакшену включает внедрение этих шаблонов и установление механизмов отката и аудитов безопасности для каждого вызова инструмента.