Etsyは、買い手の関与と売り手の可視性を高めるために、広告検索ランキングモデルを改善しました。目的は、より関連性の高い広告リストを表示することで、購入意図をよりよく予測することでした。これは、2つの大きな改善を通じて達成されました。Multigate Mixture of Experts（MMoE）アーキテクチャの統合と、カートに入れることを補助信号として利用することです。元のマルチタスクモデルは、クリック率（CTR）とクリック後のコンバージョン率（PCCVR）を最適化していましたが、購入の旅の後半でデータの希薄性に苦労していました。MMoEは、マルチタスク学習における「シーソー現象」を解決します。ここで、1つのタスクを最適化すると、別のタスクが低下することがあります。専門化された「エキスパート」と「ゲート」を導入し、タスクがユニークなパターンを学習しながら共有表現から利益を得ることができます。MMoEアーキテクチャには、共有されたボトムがあり、その上にエキスパートが並列に配置されており、異なるデータパターンを学習します。各タスクには、エキスパートの出力を組み合わせる方法を制御するゲーティングネットワークがあり、CTRとPCCVRの両方を最適化します。MMoEの調整には、エキスパートの数、サイズ、タイプの実験が含まれました。異種のエキスパート（DCNとMLPベース）では、メトリクスが改善されました。エキスパートの活用と専門化を確保することが課題でした。エキスパートドロップアウトや温度スケーリングなどの正則化技術が、これらの問題に対処するために探索されました。エキスパート選択の確率分布を軟化させる温度スケーリングは、活用と専門化の両方を促進することが実証されました。クリックと購入のほか、Etsyは、カートに入れるやお気に入りなどの他のユーザーインタラクションの価値を認識しました。これらのアクションは、高い購入意図を示し、購入よりも豊富な信号を提供し、モデルにとってより強い信号を提供します。補助タスク、特にカートに入れることを導入することで、モデルはユーザー関与のより汎用的な表現を学習することができます。これにより、より頻繁な信号を利用して希薄な購入予測に利益をもたらし、最終的により効果的なランキングシステムにつながります。