Amazon SageMaker HyperPod теперь предоставляет вам информацию о версиях образов Amazon Machine Image (AMI), используемых в ваших кластерах, и автоматически применяет исправления безопасности без прерывания рабочих нагрузок. SageMaker HyperPod — это специализированная инфраструктура для обучения и развертывания фундаментальных моделей в масштабе. Ранее администраторы кластеров имели ограниченное представление о том, какие версии AMI использовались, что затрудняло обнаружение расхождений и делало установку исправлений безопасности ручным, реактивным процессом, который было сложно выполнять во время длительных многодневных заданий обучения и который рисковал изменением пакетов программного обеспечения в AMI, таких как драйверы NVIDIA или CUDA. Эти новые возможности HyperPod помогают обеспечить безопасность и согласованность кластеров, снимая операционную нагрузку ручного исправления.С версионированием AMI вы можете видеть точную версию AMI на каждой группе экземпляров и узле в формате семантического версионирования (основная.минорная.патч), быстро обнаруживать расхождения версий и откатываться к предыдущей версии — включая предыдущие драйверы NVIDIA, CUDA и другие программные стеки — с помощью API UpdateClusterSoftware. Автоматическое исправление — это опциональная возможность для каждой группы экземпляров, которая применяет только обратно совместимые исправления безопасности, когда узлы становятся неактивными, поэтому ваши текущие рабочие нагрузки остаются непрерывными, а критически важные пакеты AI/ML, такие как драйверы NVIDIA, версии CUDA и ядра операционной системы, никогда не обновляются до другой основной или минорной версии; вы можете включить ее через API CreateCluster или UpdateCluster. Новая политика поддержки AMI также публикует сроки поддержки для различных версий AMI, после которых HyperPod прекращает публикацию исправлений безопасности.Как версионирование AMI, так и автоматическое исправление доступны для кластеров HyperPod, оркестрируемых Amazon EKS, во всех регионах AWS, где поддерживается SageMaker HyperPod. Чтобы узнать больше, ознакомьтесь с документацией по управлению AMI HyperPod и новой политикой поддержки AMI HyperPod.