Zillow는 여러 단계와 전문가를 거치는 고객 여정에서 발생하는 문제에 직면했으며, 상호 작용 전반에 걸쳐 컨텍스트가 유지되어야 했습니다. 이 복잡하고 긴 과정에는 단일 챗봇으로는 충분하지 않았습니다. Zillow의 엔지니어링 SVP인 Toby Roberts와 Glean의 CEO인 Arvind Jain은 이 컨텍스트를 유지하기 위해 설계된 AI 아키텍처에 대해 논의했습니다. 그들은 원시 데이터가 아닌 컨텍스트가 해결하기 더 어려운 문제임이 입증되었다고 강조했습니다. Zillow의 AI 노력은 데이터 메시와 강력한 거버넌스를 사용하여 강력한 데이터 기반을 구축하는 것으로 시작되었습니다. 그러나 실제 장애물은 고객의 진행 상황을 기억하고 다른 플랫폼 전반에 걸쳐 해당 정보를 전달하는 시스템을 만드는 것이었습니다.Zillow는 부동산 거래의 특성을 인지하고 외부 채팅 인터페이스에 의존하는 대신 자체적인 지속적인 컨텍스트 계층을 구축하기로 결정했습니다. 그들의 접근 방식은 단일의 광범위한 모델이 아닌, 다양한 목적에 맞게 미세 조정된 작고 작업별 AI 모델을 활용합니다. 내부적으로 Zillow는 반복적인 작업을 자동화하기 위해 수천 명의 Glean 에이전트를 사용합니다. Glean의 플랫폼은 통합 작업을 중앙 집중화하여 부서 간 중복을 방지하고 비용 절감 조치 역할을 합니다. 이는 더 저렴한 모델로의 모델 라우팅과 사전 계산된 컨텍스트를 통해 달성되며, 토큰 소비를 크게 줄입니다.에이전트 AI를 시작하는 기업을 위해 Zillow와 Glean은 핵심적인 통찰력을 제공합니다. AI 구현 전에 측정 기준선을 설정하는 것은 영향을 정량화하는 데 중요합니다. 컨텍스트 관리를 중앙 집중화하면 팀 간의 중복 통합 노력을 피할 수 있습니다. 민감한 데이터는 자동화된 권한 부여를 넘어 추가적인 규정 준수 검사가 필요합니다. 마지막으로, 컨텍스트는 모델 라우팅 및 사전 계산된 컨텍스트에서 볼 수 있듯이 단순한 기능적 기능이 아닌 비용 최적화 도구로 간주되어야 합니다.