Amazon SageMaker HyperPod 现已支持... 笔记

Amazon SageMaker HyperPod 现已支持 AMI 版本管理和自动打补丁

Amazon SageMaker HyperPod 现在可让您查看跨集群运行的 Amazon 机器镜像(AMI)版本,并自动应用安全补丁,同时不会中断您的工作负载。SageMaker HyperPod 是专为大规模训练和部署基础模型而构建的基础设施。此前,集群管理员对正在运行的 AMI 版本缺乏深入了解,导致版本漂移难以检测,安全补丁更新为手动且被动的过程,难以在长达数天的多日训练作业中执行,且存在更改 AMI 中捆绑软件(如 NVIDIA 驱动程序或 CUDA)的风险。HyperPod 的这些新功能有助于您保持集群的安全性和一致性,同时消除手动补丁更新的运营负担。通过 AMI 版本管理,您可以查看每个实例组和节点上确切的 AMI 版本(采用语义化版本格式 major.minor.patch),快速检测版本漂移,并使用 UpdateClusterSoftware API 回滚到之前的版本——包括之前的 NVIDIA 驱动程序、CUDA 及其他软件栈。自动补丁更新是一项可选的、按实例组启用的功能,仅在节点空闲时应用向后兼容的安全补丁,因此您的运行中工作负载不会受到干扰,关键 AI/ML 包(如 NVIDIA 驱动程序、CUDA 版本和操作系统内核)永远不会升级到不同的主版本或次版本;您可以通过 CreateCluster 或 UpdateCluster API 启用该功能。新的 AMI 支持策略还会发布不同 AMI 版本的支持时间线,在此之后 HyperPod 将停止发布安全补丁。AMI 版本管理和自动补丁更新均适用于由 Amazon EKS 编排的 HyperPod 集群,在支持 SageMaker HyperPod 的所有 AWS 区域中可用。欲了解更多信息,请参阅 HyperPod AMI 管理文档和新的 HyperPod AMI 支持策略。