저는 인간의 개입 없이 고객 요청의 90%를 처리하는 AI 에이전트를 어떻게 구축했는지에 대해 이야기합니다.

2024년 초, 한 휴대폰 수리점은 다양한 채널을 통해 고객 문의가 폭주하여 직원들이 반복적인 업무에 시달렸습니다. 이로 인해 고객 응대를 자동화하기 위한 AI 에이전트 '야코보'를 구축하는 프로젝트가 시작되었습니다. 주요 목표는 팀의 업무 부담을 줄이고 고객 서비스를 개선하는 것이었습니다. 야코보는 메인 라우터가 전문 하위 에이전트에게 작업을 위임하는 모듈형 아키텍처로 설계되었습니다. 이러한 하위 에이전트는 예약, 할인, 주문 처리에 집중했으며, 기존 Airtable 데이터베이스에서 직접 데이터를 쿼리했습니다. 주요 결정 사항으로는 작업 실행을 위한 도구 호출과 복잡한 시나리오를 위한 HITL(Human-in-the-Loop) 핸드오프가 있었습니다. 1년 후, 야코보는 약 90%의 상호 작용을 자율적으로 처리하여 직원이 수리에 집중할 수 있도록 했습니다. 시스템의 성공은 전환율로 측정되었으며, 시스템은 귀중한 자산이 되었습니다. 이 프로젝트는 LLM 통합, 관찰 가능성 및 코드 단순성에 대한 학습을 제공했습니다. 사업 가치가 향상되었고, 결국 사업 매각으로 이어지는 성공적인 결과를 낳았습니다.