ホームフィードの事前ランキングステージの近代化 ノート

ホームフィードの事前ランキングステージの近代化

ピンタレストのホームフィードのレコメンデーションは、マルチステージデザインを採用し、洗練されたプリランキングレイヤーでビジネスメトリクスを改善した。初期のデザインには、デプロイメントの努力、モデル自動再トレーニングの挑戦、アイテムの相互作用を効果的に学習できないツインタワーアーキテクチャーの制限があった。チームは、プリランキングレイヤーの近代化のために基礎的な改善を行い、新しいシステムデザイン、ログパイプライン、サーブアーキテクチャーを実施した。新しいデザインには、リクエストレベルのサブコンポーネントとアイテムレベルのサブコンポーネントが共同トレーニングされ、サーブ中には切り離される。チームは、プリランキングとランキングを区別し、バイアスのかからないデータをトレーニングに導入するために、早期の漏斗型ログパイプラインを実施した。サーブアーキテクチャーのデザインには、CPUとメモリーのオーバーヘッドを緩和するルートリーフアーキテクチャーを含む。チームは、L2ランカーとのプリランキングモデルのより良いアラインメントのために、モデルディスティレーションを実施した。オンラインの実験では、重要なエンゲージメントの勝利を示し、チームは、新しいエンゲージメントデータを活用するための自動再トレーニングフレームワークを設定した。チームは、モデリングイノベーション、データサンプリング、モデルアーキテクチャーの改善、ロスエクスプロレーション、サーブの最適化について継続的に作業を進めている。
CdXz5zHNQW_P7QrX8S0r6.png