コントラスティブ強化学習によるプロダクト理解の形成 ノート

コントラスティブ強化学習によるプロダクト理解の形成

Etsyのマーケットプレイスは、多様な手作り品やユニークな商品を提供しており、効果的な検索とレコメンデーションにはニュアンスの理解が必要です。現在の商品情報は豊富ですが、多くの場合構造化されておらず、機械学習モデルが完全に活用するのは困難です。中核的な課題は、生データと各商品の魅力を定義する複雑な詳細との間のギャップを埋めることです。解決策は、強化学習アプローチと対照的なシグナルを使用することです。この手法は、バイヤーのエンゲージメントデータを使用して、際立った特徴を強調する簡潔な商品概要を生成するようにLLMをファインチューニングします。これは、バイヤーの選択に基づいて詳細を優先するようにモデルをトレーニングすることで達成され、関連性予測を改善します。モデルは検索インタラクションデータでトレーニングされ、バイヤーが他のリスティングよりも1つのリスティングを選択するに至った特徴を強調する概要に報酬を与えます。この強化学習は、検索関連性メトリクスの改善につながる概要を生成するようにモデルを推進します。人間の評価と定量的なオフラインテストは、概要の高い品質と、下流モデルへの影響、パフォーマンスの向上を示しました。このアプローチは、セラーの創造性を反映し、厳格な定義ではなく、バイヤーの行動に基づいた商品の理解に焦点を当てています。強化された商品理解は、最終的にバイヤーが自分の好みに訴える商品を発見するのに役立ち、ショッピング体験を向上させます。結果として得られる簡潔な概要は、類似商品のリスティングを差別化する主要な特徴を強調します。このプロジェクトは、キーワードのような単純なテキスト機能のみを使用する場合と比較して、重要な商品詳細を表面化する強力な能力を示しました。
CdXz5zHNQW_UugGSCbu5d.jpeg