推荐是 Netflix 体验的关键组成部分，该公司一直使用复杂的生成模型，这些模型依赖数千个手工 crafted 特征和专用架构。然而，这些模型维护与更新成本高昂，公司正寻求更高效、更有效的解决方案。大型语言模型（LLM）在此领域展现出潜力，但尚未达到生产就绪状态，且常存在局限性，例如过度推荐热门内容而忽视业务约束。为此，Netflix 构建了 GenRec，这是一个基于 LLM 的推荐排序器，通过在 Netflix 特定数据和目标上对内部基础 LLM 进行后训练来实现。GenRec 将用户历史、项目元数据和上下文 verbalize 为文本，并利用 catalog-aware 评分头对项目进行排序。该模型采用多目标损失函数进行训练，结合排序、语言和奖励信号，以对齐业务目标和长期会员满意度。与经过良好调优的生产级排序器相比，GenRec 在短期和长期在线指标上均展现出具有统计学意义的提升，同时仅使用少量标注数据和输入信号。该模型部署于 Netflix 内部 LLM 栈，使用 vLLM 进行服务，公司还实施了控制推理成本的策略，包括使用更小模型、激进的上下文压缩以及仅 prefill 推理。总体而言，GenRec 代表了 Netflix 推荐系统迈向更以 LLM 为中心未来的重要一步，其成功有望改变公司处理推荐与个性化方式。该模型从自然语言输入中学习并生成个性化排序的能力，有望提升用户体验并增加参与度。通过利用大型语言模型的力量，Netflix 能够构建更高效、更有效的推荐系统，从而推动业务成功。