Модельный роутинг динамически направляет запросы к соответствующим ИИ-моделям для оптимизации производительности и затрат. Текущие статические методы роутинга ограничены недостатком информации и неспособны учиться на результатах выполнения. Agent-as-a-Router, новая структура, рассматривает роутинг как динамического агента, строящего память, используя цикл "Контекст-Действие-Обратная связь". Этот цикл отслеживает успехи и неудачи моделей для постоянного обновления поведения роутера. ACRouter, практическая реализация, значительно превосходит статические роутеры и дорогие стратегии по умолчанию. Он адаптируется к изменениям в поведении пользователей и базовых моделях без необходимости обширного обучения моделей или сложных правил. Статические роутеры терпят неудачу, потому что им не хватает обратной связи по выполнению, они не могут адаптироваться к новым данным и устаревают с обновлениями моделей. Agent-as-a-Router преодолевает это, накапливая информацию, основанную на выполнении, во время развертывания. Цикл "Контекст-Действие-Обратная связь" позволяет роутеру учиться на прошлых взаимодействиях и улучшать будущие решения по роутингу. ACRouter использует модули для памяти, оркестрации и верификации, поддерживаемые слоем инструментов для обратной связи по выполнению в реальном мире. Тесты показывают, что ACRouter достигает высокой точности и экономии затрат в различных задачах, включая сложные сценарии вне распределения. Структура лучше всего подходит для проверяемых задач и областей, где разные модели преуспевают в различных нишах.