Metrics Board: 에이전트 준비 메트릭스 레이어 구축
Pinterest는 비즈니스 성과부터 기능 실험에 이르기까지 모든 의사 결정에 신뢰할 수 있는 지표에 의존합니다. 수백 개의 데이터 생산자가 방대한 데이터 레이크에서 수천 개의 지표를 생성합니다. 이러한 복잡성을 관리하기 위해 Pinterest는 엔드투엔드 플랫폼인 Metrics Board를 구축했습니다. 이 플랫폼은 지표 생성을 자동화하고, 품질을 강제하며, 에이전트 기반 분석을 가능하게 합니다. 지표는 사용자 및 광고주 가치를 이해하고, 제품 결정을 내리며, 회사 전략을 예측하는 데 중요합니다. 또한 Pinterest의 대규모 제품 실험 관행을 지원하여 공정하고 통계적으로 유의미한 결과를 보장합니다.이전에는 지표가 맞춤형 데이터 파이프라인에서 정의되어 비효율성과 신뢰도 저하를 초래했습니다. Metrics Board는 지표를 통합하고, 투명한 정의를 제공하며, 파이프라인 생성을 자동화하고, 지표 검증 및 모니터링을 보장하기 위해 개발되었습니다. 목표는 모든 사용자, 애플리케이션 및 진화하는 AI 에이전트가 지표를 쉽게 사용할 수 있도록 하는 것이었습니다. Metrics Board는 Git 리포지토리에서 프로덕션 코드처럼 정의가 관리되는 시맨틱 레이어 역할을 합니다. 시스템은 YAML 사양을 생성하고 풀 리퀘스트를 열어 더 넓은 데이터 스택과 통합됩니다.Metrics Board는 예약된 Airflow DAG를 사용하여 지표 계산을 조정하고, 각 지표를 격리하여 더 나은 제어를 제공합니다. SQL을 SparkSQL 또는 PrestoSQL로 컴파일하고 종속성 작업 및 데이터 품질 검사를 자동으로 생성합니다. 백필은 Airflow를 통해 관리되며, 플랫폼은 업스트림 데이터 지연 감지와 같은 자동화된 작업을 처리합니다. 이를 통해 지표 생성 시간을 며칠 또는 몇 주에서 몇 시간으로 크게 단축할 수 있습니다.모든 정의에는 검증이 포함되어 지표 품질을 최우선으로 합니다. 이러한 검증은 명시적인 기대치를 위한 규칙 기반 검사와 ML 기반 이상 감지를 사용합니다. 검사가 실패하면 실시간으로 적절한 사람들에게 알림이 전송되며, API 및 PDF 내보내기를 통해 품질 보고서를 확인할 수 있습니다. 게시를 통해 지표는 PinCat, Helium, Superset 및 StarRocks와의 통합을 통해 사람들이 사용하는 제품에 도달합니다. 메타데이터 통합은 커밋 시점에 게시되고, 데이터 통합은 계산 후에 게시됩니다.Metrics Board는 정의 및 메타데이터를 중앙 집중화하여 검색 용이성을 촉진함으로써 검색 및 거버넌스를 지원합니다. 지표는 자동으로 데이터 카탈로그인 PinCat으로 흐릅니다. 알 수 없음부터 A+까지의 인증 등급 시스템은 소비자가 신뢰할 수 있는 지표를 식별하는 데 도움이 됩니다. 대시보드도 등급으로 분류되어 보존, 쿼리 성능 및 중요한 회사 전체 대시보드에 필요한 문서에 영향을 미칩니다. Tier 1 대시보드는 가장 중요한 집합을 나타내며, 강력한 보장을 받고 공식 인증이 필요합니다.