Amazon SageMaker AI 宣布推出用于无服务器模型定制的训练会话 API
Amazon SageMaker AI 无服务器模型定制现已支持训练会话 API,使客户无需配置或管理 GPU 基础设施即可完全掌控后训练算法。托管技术包括 SFT(监督微调)、DPO(直接偏好优化)以及其他强化学习方法,允许客户选择特定技术和模型,由 SageMaker AI 执行训练。借助训练会话 API,团队可自行编写训练循环,无论是按自身需求复现 SFT 或 DPO,还是实现自定义损失函数、新的强化学习奖励信号、数据课程表,或直接采用最新研究中的算法。诸如 forward_backward()、optim_step() 和 sample() 等操作现在可针对实时有状态会话发起 API 调用,使客户能够组合其技术所需的任意训练流程,而 SageMaker AI 负责 GPU 分配、模型及 LoRA 加载、分布式执行、故障恢复、检查点存储和安全性。客户可直接从其 Python 代码中调用这些操作,以驱动强化学习、监督微调或自定义训练目标,并内置检查点与恢复功能。计费按处理的 token 数量计算,因此本地计算(如奖励评分)不计入 GPU 时间。此外,SageMaker AI 还发布了 SageMaker 训练会话食谱(cookbook),提供一套即插即用的 SFT 和 RL 配方,供客户作为构建自身训练循环的蓝图。训练会话 API 现已在通用可用(GA)阶段,覆盖美国东部(北弗吉尼亚)、美国西部(俄勒冈)和亚太(孟买)区域。要开始使用,请安装 SageMaker Python SDK 并克隆食谱,或在 SageMaker Studio 中启动 Notebook 并连接编码代理。欲了解更多信息,请访问文档和 Amazon SageMaker AI 网页。