今天，Amazon SageMaker AI 宣布支持在 Serverless 模型定制作业中配置序列长度。Amazon SageMaker AI Serverless 模型定制支持对多种开源权重模型进行微调，包括来自热门系列的模型，如 gpt-oss、Gemma、Llama、Nemotron 和 Qwen。此前，每种微调配方均以固定的序列长度运行，客户无法对其进行修改。客户有时需要调整这些参数以更好地适配其使用场景。此外，客户还希望某些模型支持比静态默认值更长的序列长度。现在，您可以将序列长度参数作为定制作业超参数的一部分进行设置，上限为您所选模型和技术的发布最大值。对于 SFT 和 DPO 作业，您可以设置 dataset_max_len 超参数；对于 RFT 作业，您可以设置 max_prompt_length 和 max_response_length 超参数。这赋予您更多控制权，以匹配您的训练数据特征，无论您处理的是简短问答对还是多页文档。根据模型和技术的不同，许多模型的发布最大序列长度可达 16K 个 token。SageMaker AI 上的 Serverless 模型定制服务目前可用区域包括：美国东部（弗吉尼亚北部）、美国西部（俄勒冈）、亚太（东京）和欧洲（爱尔兰）。要开始使用，请导航至 Amazon SageMaker Studio 中的 Models 页面以启动定制作业，或使用 SageMaker Python SDK，或借助您选择的编程助手使用我们的 Agent 技能。欲了解更多信息，并查看各技术对应的模型列表及支持的序列长度，请参阅 SageMaker AI 文档。