Статья: Сохраняемое продолжение для агентов ИИ: Почему транспортные слои теперь важны

Рабочие процессы агентов делают транспорт первостепенной задачей. Многоходовые циклы с использованием инструментов увеличивают накладные расходы, которые незначительны при однократном использовании LLM. Сохранение состояния значительно сокращает накладные расходы. Кэширование контекста на стороне сервера может уменьшить объем данных, отправляемых клиентом, на 80%+, а также улучшить время выполнения на 15–29%. Автор: Анируд Мендиратта.