2025년에 출시된 FunctionGemma는 초기 데모를 넘어선 관심을 불러일으키며, 멀티 에이전트 시스템 라우터로의 잠재적 사용 가능성을 보여주었습니다. 이 기사에서는 FunctionGemma를 미세 조정하여 7명의 전자상거래 지원 에이전트에게 고객 문의를 라우팅하는 실험을 자세히 설명합니다. 핵심 아이디어는 2억 7천만 개의 매개변수를 가진 모델이 정교한 라우팅을 학습할 수 있는지, 즉 기존의 규칙 기반 방식을 뛰어넘을 수 있는지를 확인하는 것이었습니다. 다양한 문의 유형을 가진 전자상거래 지원은 이 멀티 에이전트 시스템에 적합한 테스트 케이스를 제공했습니다. 이 실험에는 특정 기능과 트리거를 가진 전문 에이전트를 설계하여 다양한 고객 문제를 처리하는 것이 포함되었습니다. 주요 과제는 FunctionGemma가 자연어를 이해하고 그에 따라 문의를 라우팅하도록 훈련시키는 것이었습니다. LoRA를 사용하여 효율적인 미세 조정을 수행했으며, 프로세스를 최적화하기 위해 어텐션 레이어에 집중했습니다. 훈련 데이터는 다양한 변형과 엣지 케이스를 포함한 현실적인 고객 문의를 생성하기 위해 프로그래밍 방식으로 생성되었습니다. 훈련 구성은 Google Colab과 T4 GPU를 활용했으며, 배치 크기 및 학습률과 같은 매개변수를 사용했습니다. 결과는 에이전트 라우팅에서 89.40%의 전체 정확도를 보여주며, 키워드 기반 접근 방식을 크게 능가했습니다.
dev.to
Beyond Mobile Actions: Exploring FunctionGemma for Intelligent Multi-Agent Orchestration
