Netflixは、メンバーの嗜好学習を一元化するために、パーソナライゼーション用のFoundation Modelを開発しました。膨大なユーザーインタラクションとコンテンツデータでトレーニングされたこの強力なモデルは、その学習結果を他のモデルに配布します。この大規模モデルを本番システムに統合することは課題であり、Netflixは埋め込み（embeddings）、サブグラフ（subgraph）、ファインチューニング（fine-tuning）の3つの異なるアプローチを実験しました。各手法は、レイテンシ、技術スタック、モデル利用に関する異なるアプリケーションニーズに対応します。埋め込みアプローチは、Embedding Storeに保存されたFoundation Modelからの事前計算されたユーザープロファイルとアイテム表現を活用します。これは簡単で費用対効果が高いですが、計算と推論の間の時間差により、推奨が古くなる可能性があります。Netflixは、毎日のファインチューニングと埋め込み安定化技術でこれを強化しています。鮮度の低下に対処し、適応性を向上させるために、ニアリアルタイムフレームワークが開発されています。サブグラフ統合は、Foundation Modelのデコーダーをアプリケーションのより大きなモデルグラフ内のコンポーネントとして扱います。これにより、より深い統合が可能になり、最新の学習結果が使用され、特定のFoundation Modelレイヤーにアクセスすることでアプリケーション固有の価値が解放されます。しかし、これは特徴生成の複雑さを増し、モデルサイズと推論時間を増加させます。このアプローチは、メトリックの改善がコストを正当化する高インパクトユースケースに限定されます。ファインチューニングアプローチは、製品固有のデータと目標でさらにトレーニングすることにより、Foundation Modelを特定のアプリケーションに適応させます。これは最適化されたパフォーマンスを提供し、新しいアプリケーションのベースラインとして機能します。レイテンシとSLAの慎重な最適化が必要ですが、モデルとパイプラインの増加につながる可能性があります。Netflixは、このプロセスを簡素化するためにファインチューニングフレームワークを提供しています。進行中のイノベーションには、レイテンシを削減するためのニアリアルタイム埋め込み推論と、より小さく蒸留されたFoundation Modelバージョンが含まれます。標準化されたAPIと堅牢なファインチューニングフレームワークは、アプリケーションチームがFoundation Modelをより簡単に活用できるようにすることを目指しています。これらの3つの統合パターンは、NetflixアプリケーションがFoundation Modelから恩恵を受けるための包括的な戦略を提供します。