Zillowは、複数の段階と専門家が関わる顧客ジャーニーにおいて、インタラクション間でコンテキストを維持する必要があるという課題に直面していました。この複雑で長期にわたるプロセスには、単一のチャットボットでは不十分でした。Zillowのエンジニアリング担当SVPであるToby Roberts氏とGleanのCEOであるArvind Jain氏は、このコンテキストを維持するために設計されたAIアーキテクチャについて議論しました。彼らは、生データではなくコンテキストこそが、解決がより困難な問題であったことを強調しました。ZillowのAIへの取り組みは、データメッシュと堅牢なガバナンスを用いた強力なデータ基盤の確立から始まりました。しかし、真のハードルは、顧客の進捗を記憶し、その情報を異なるプラットフォーム間で引き継ぐシステムを構築することでした。Zillowは、不動産取引の性質を認識し、外部のチャットインターフェースに依存するのではなく、独自の永続的なコンテキストレイヤーを構築することを選択しました。彼らのアプローチは、単一の広範なモデルではなく、さまざまな目的に合わせてファインチューニングされた、小さくタスク固有のAIモデルを利用しています。社内では、Zillowは何千ものGleanエージェントを使用して反復的なタスクを自動化しています。Gleanのプラットフォームは、統合作業を一元化し、部門間の重複を防ぎ、コスト削減策として機能します。これは、より安価なモデルへのモデルルーティングと事前計算されたコンテキストを通じて実現され、トークン消費を大幅に削減します。エージェンティックAIに着手する企業にとって、ZillowとGleanは重要な洞察を提供します。AI実装前に測定ベースラインを確立することは、影響を定量化するために不可欠です。コンテキスト管理を一元化することで、チーム間の冗長な統合作業を回避できます。機密データには、自動化された権限を超えた追加のコンプライアンスチェックが必要です。最後に、コンテキストは、モデルルーティングと事前計算されたコンテキストによって例示されるように、単なる機能能力としてだけでなく、コスト最適化ツールとして見なされるべきです。