Xavi Amatriain、Expedia GroupのチーフAI・データオフィサーは、評価が現在、AIシステムの主要な製品要件文書として機能していると述べました。レッドチーミングを含むこれらの評価は、設計プロセスのできるだけ早い段階でセキュリティ要件を組み込みます。彼は、AI支援コード生成がこのアプローチを強化し、すべての開発思考を評価に集中させると考えています。Amatriainは、Expediaに入社する前にGoogleで重要なAIの役割を担っていました。VentureBeatの調査は、自動評価における重大な信頼のギャップを浮き彫りにしており、多くの企業がこれらのシステムに完全な自信を持たずにAIを展開しています。相当数のAIエージェントが、内部評価を通過したにもかかわらず、実際の顧客インタラクションで失敗しています。Amatriainは、過剰なガードレールはフィードバックループを妨げ、学習プロセスを偏らせる可能性があると主張し、それらを必要ではあるが減少していく悪と見なしています。Expediaのガバナンスモデルは、原則、プロセス、自動化を層状に重ねており、リリース時のトールゲートはリスクレベルに合わせて調整されています。Amatriainは、単一の巨大なAIではなく、より大きなシステムに構成された専門化されたエージェントを提唱しており、このアプローチの方がより安全で管理しやすいと考えています。Expediaのアーキテクチャは、コンポーネントからスキル、サブエージェント、そして最終的にはオーケストレーションされたエージェントシステムへと構築されます。彼は、効果的なAI開発には、特定のモデルではなく、システム的な設計が重要であると強調しています。エージェントを狭くスコープすることで、統合前の分離された評価とロックダウンが容易になります。Expediaは、レイテンシのニーズに基づいて、リトリーバル拡張生成と直接APIコールを使用し、キャッシュされた情報に対する即時の応答と、リアルタイムデータに対するより複雑な推論を保証します。一般的なチャットボットとは異なり、Expediaはサプライヤーの主張を自社のレビューデータとクロスリファレンスします。最も重要なのは、ユーザーが予約の最終クリックを保持することであり、これは不正なアクションから保護するための譲れないセキュリティ上の決定です。Amatriainは、セキュリティは設計段階から統合される必要があり、事後的なガードレールの必要性を最小限に抑える必要があると強調しています。彼は、AIシステムがますます他の強力なAIエージェントによって脅かされるようになると予測しており、迅速な検出と修復が不可欠になります。運用中のAIシステムから評価への継続的なフィードバックループは、迅速な修正のために重要です。Expediaのリスク調整されたガバナンスは、このフィードバックループの先を行くことを目指しており、増大する脅威の状況と堅牢なセキュリティ対策の必要性を認識しています。