음성 AI 애플리케이션에서 컨텍스트 유지 구현 방법

음성 AI는 종종 대화 간의 맥락을 유지하는 데 어려움을 겪어 사용자 불만과 API 호출 낭비를 초래합니다. 이를 해결하기 위해 vapi의 메타데이터와 메모리 또는 Redis와 같은 서버 측 저장소를 사용하는 지속적인 세션 상태가 필요합니다. 이 아키텍처는 상호 작용 전반에 걸쳐 대화 기록, 사용자 의도 및 통화 메타데이터를 추적합니다. 통화가 시작되면 서버는 이전 컨텍스트를 가져와 어시스턴트 구성에 주입하고 VAPI로 보냅니다. 웹훅은 각 통화가 끝난 후 스크립트와 세션 세부 정보를 캡처하여 세션 상태를 업데이트하는 데 사용되며, 마지막으로 대화 기록을 저장합니다. 이 코드는 세션 데이터를 관리하고 대화를 저장하기 위해 웹훅을 처리하는 Express 서버를 보여줍니다. 오류 처리는 잠금, 웹훅 시간 초과 및 TTL 정리로 인한 메모리 누수를 통해 경쟁 조건을 고려합니다. 적절한 테스트와 ngrok는 테스트 및 컨텍스트 유지 보장, 서명 유효성 검증 확인에 필수적입니다.