Amazon SageMaker AI 现已支持 NVIDIA Nemotron 3.5 Lightning 的无服务器模型定制。
Amazon SageMaker AI 现已支持针对 NVIDIA Nemotron 3.5 Lightning 模型的无服务器模型定制,支持使用监督微调(SFT)、直接偏好优化(DPO)和强化微调(RFT)。这是 NVIDIA 推出的最新开源权重模型之一,采用混合专家(Mixture-of-Experts)架构,拥有 30B 总参数,其中 3B 为激活参数。除在 SageMaker AI 上部署该模型外,您现在还可将其适配至您的特定领域与工作流。模型定制使您能够利用专有数据对基础模型进行定制,从而让规模更小、尺寸更合适的模型在您的任务上达到前沿模型的质量,降低成本与延迟。您可以使用带标签的数据通过 SFT 提升特定领域任务的准确性,使用偏好数据通过 DPO 使输出与组织的语调保持一致,或使用奖励信号通过 RFT 增强新任务的性能。借助无服务器定制功能,SageMaker AI 负责所有基础设施配置与训练编排,因此您可以专注于数据处理与评估,而无需管理集群,并仅按实际使用量付费。SageMaker AI 上的 NVIDIA Nemotron 3.5 Lightning 无服务器模型定制服务已在以下区域可用:美国东部(弗吉尼亚北部)、美国西部(俄勒冈)、亚太(东京)和欧洲(爱尔兰)。要开始使用,请导航至 Amazon SageMaker Studio 中的“模型”页面以启动定制作业,或使用 SageMaker Python SDK 进行程序化访问。如需了解更多信息,请参阅 Amazon SageMaker AI 模型定制文档。