Metrics Board: エージェント対応メトリクスレイヤーの構築
Pinterest は、事業業績から機能実験に至るまで、あらゆる意思決定において信頼できる指標に依存しています。数百のデータプロデューサーが、大規模なデータレイクから数千の指標を生成しています。この複雑さを管理するために、Pinterest はエンドツーエンドのプラットフォームである Metrics Board を構築しました。このプラットフォームは、指標の作成を自動化し、品質を強制し、エージェント駆動型分析を可能にします。指標は、ユーザーと広告主の価値を理解し、製品の意思決定を推進し、会社の戦略を予測するために不可欠です。また、Pinterest の大規模な製品実験の実践を強化し、公平で統計的に有意な結果を保証します。以前は、指標はカスタムデータパイプラインで定義されており、非効率性と信頼の低下につながっていました。Metrics Board は、指標を統合し、透明性の高い定義を提供し、パイプライン作成を自動化し、指標の検証と監視を保証するために開発されました。目標は、すべてのユーザー、アプリケーション、および進化する AI エージェントにとって指標を容易にすることでした。Metrics Board はセマンティックレイヤーとして機能し、定義は本番コードと同様に Git リポジトリで管理されます。システムは YAML 仕様を生成し、プルリクエストを開き、より広範なデータスタックと統合します。Metrics Board は、スケジュールされた Airflow DAG を使用して指標の計算をオーケストレーションし、各指標を分離して制御を向上させます。SQL を SparkSQL または PrestoSQL にコンパイルし、依存関係タスクとデータ品質チェックを自動的に生成します。バックフィルは Airflow を介して管理され、プラットフォームはアップストリームデータの遅延検出などの自動化された操作を処理します。これにより、指標作成時間が数日から数週間から数時間に大幅に短縮されます。指標の品質は最優先事項であり、すべての定義に検証が含まれています。これらの検証では、明示的な期待値のためのルールベースのチェックと、ML ベースの異常検出が使用されます。チェックが失敗した場合、アラートがリアルタイムで適切な担当者に通知され、品質レポートは API および PDF エクスポートを介して利用できます。公開により、指標は PinCat、Helium、Superset、および StarRocks との統合により、人々が使用する製品に到達します。メタデータ統合はコミット時に公開され、データ統合は計算後に公開されます。Metrics Board は、発見可能性のために定義とメタデータを一元化することにより