Приложения LLM не выходят из строя так, как классические интерфейсы прикладного программирования. Web API под нагрузкой обычно деградирует предсказуемым образом: увеличивается задержка, возрастает количество ошибок, и на панелях мониторинга видна четкая граница пропускной способности. Агентные системы устроены иначе. Они выходят из строя незаметно, возвращая уверенные ответы, основанные на частичном контексте, усеченных результатах работы инструментов или таймаутах, которые агент маскирует правдоподобным повествованием. В управляемой аналитике надежность является требованием политики, а не просто показателем производительности.Многие команды начинают со статических ограничений запросов в секунду, потому что они просты и понятны. Но рабочие нагрузки, связанные с вызовом инструментов, являются скачкообразными, многоступенчатыми и связаны с дорогостоящими нижестоящими системами, такими как хранилища данных, векторные хранилища и каталоги метаданных. Один вопрос пользователя может разветвляться на десятки вызовов инструментов — поиск схем, разрешение семантического слоя, компиляция SQL, выполнение запросов, проверки происхождения и проверка политик. При реальном использовании статические ограничения либо блокируют законную работу, либо позволяют агенту-шумному соседу морить голодом всех остальных, особенно когда агенты агрессивно повторяют попытки или входят в циклы.