レコメンデーションはNetflixの体験において重要な部分であり、同社は数千もの手作業で作成された特徴量と特殊なアーキテクチャに依存する複雑なプロダクションモデルを使用してきました。しかし、これらのモデルは維持・更新にコストがかかり、同社はより効率的で効果的なソリューションを探しています。大規模言語モデルはこの分野で有望視されていますが、まだプロダクションレディではなく、人気コンテンツを過剰に推奨したり、ビジネス上の制約を無視したりするなどの制限がしばしばあります。これに対処するため、NetflixはGenRecを構築しました。これは、Netflix固有のデータと目標に基づいて内部の基盤LLMを後学習させるLLMバックのレコメンデーションランカーです。GenRecは、ユーザー履歴、アイテムメタデータ、コンテキストをテキストとして言語化し、カタログを意識したスコアリングヘッドを使用してアイテムをランク付けします。このモデルは、ランキング、言語、報酬シグナルを組み合わせたマルチオブジェクティブロスでトレーニングされ、ビジネス目標と長期的なメンバー満足度と整合させます。GenRecは、調整済みのプロダクションランカーと比較して、短期および長期のオンラインメトリクスで統計的に有意な改善を示しており、ラベル付きデータと入力シグナルのごく一部しか使用していません。このモデルは、vLLMを使用してNetflixの内部LLMスタックで提供されており、同社は、より小さなモデルの使用、積極的なコンテキスト圧縮、プリフィルのみの推論などのサービングコストを制御するための戦略を実装しています。全体として、GenRecはNetflixにおけるレコメンデーションのよりLLM中心の未来に向けた重要な一歩を表しており、その成功は同社がレコメンデーションとパーソナライゼーションに取り組む方法を変革する可能性があります。自然言語入力から学習し、パーソナライズされたランキングを生成するモデルの能力は、ユーザーエクスペリエンスを向上させ、エンゲージメントを高める可能性があります。大規模言語モデルの力を活用することで、Netflixはビジネスの成功を推進する、より効果的で効率的なレコメンデーションシステムを作成できます。