모델 라우팅은 성능과 비용을 최적화하기 위해 프롬프트를 적절한 AI 모델로 동적으로 지시합니다. 현재의 정적 라우팅 방법은 정보 부족으로 인해 실행 결과로부터 학습할 수 없다는 한계가 있습니다. Agent-as-a-Router라는 새로운 프레임워크는 라우팅을 컨텍스트-액션-피드백 루프를 사용하는 동적이고 기억을 구축하는 에이전트로 취급합니다. 이 루프는 모델의 성공과 실패를 추적하여 라우터의 동작을 지속적으로 업데이트합니다. ACRouter는 실용적인 구현으로, 정적 라우터와 비싼 기본 전략보다 훨씬 뛰어난 성능을 보입니다. 광범위한 모델 학습이나 복잡한 규칙 없이 사용자 행동과 기반 모델의 변화에 적응합니다. 정적 라우터는 실행 피드백이 부족하고, 새로운 데이터에 적응할 수 없으며, 모델 업데이트로 인해 쓸모없게 되기 때문에 실패합니다. Agent-as-a-Router는 배포 중에 실행 기반 정보를 축적함으로써 이를 극복합니다. C-A-F 루프는 라우터가 과거 상호 작용으로부터 학습하고 미래 라우팅 결정을 개선할 수 있도록 합니다. ACRouter는 메모리, 오케스트레이션 및 검증을 위한 모듈을 활용하며, 실제 실행 피드백을 위한 도구 계층의 지원을 받습니다. 벤치마크는 ACRouter가 복잡한 분포 외 시나리오를 포함한 다양한 작업에서 높은 정확도와 비용 절감을 달성함을 보여줍니다. 이 프레임워크는 검증 가능한 작업과 다른 모델이 특정 틈새에서 뛰어난 도메인에 가장 적합합니다.