今天，Amazon SageMaker AI 宣布为训练和处理任务提供实例偏好列表，使您更便捷、更快速地获取工作负载所需的计算资源。许多 AI 训练、微调及数据处理工作负载在多种实例类型或规格上表现相当。然而，在此之前，您在提交作业时只能指定一种实例类型，并需等待 SageMaker 为该作业找到该特定实例。在高需求 GPU 的峰值时段，等待时间往往难以预测，客户有时不得不构建复杂的重试逻辑，或同时提交多个具有不同实例类型的作业，以找到首个可用选项。现在，您只需提供工作负载可接受的实例类型优先级列表，SageMaker 便会自动从您的偏好配置中选取首个可用配置运行您的作业。借助此解决方案，您的训练或处理作业更有可能更早启动。要使用此功能，您在提交训练或处理作业时，需按优先级顺序指定实例类型及数量偏好。例如，您的列表可能包含对两个 ml.g6.48xlarge 实例的偏好，或对四个 ml.g5.48xlarge 实例的偏好。SageMaker 将遍历该列表，并在首个具备可用容量的配置上启动您的作业。您还可在此作业提交中配置容量来源，选择来自按需实例或您的预留 SageMaker 灵活训练计划。此功能简化了在高需求时段为作业获取计算资源的过程，并减少了您原本需要进行的无差别手动重试操作，且完全在您已使用的 SageMaker 训练和处理作业 API 内实现。SageMaker 训练和处理作业的实例偏好列表现已在所有提供 SageMaker 服务的 AWS 区域上线，可通过 SageMaker CLI、API、SDK 及控制台 UI 使用。欲了解更多信息，请参阅我们的文档或发布博客。