Amazon SageMaker HyperPod は、クラスター全体で実行されている Amazon Machine Image (AMI) のバージョンに関する可視性を提供し、ワークロードを中断することなくセキュリティパッチを自動的に適用するようになりました。SageMaker HyperPod は、基盤モデルを大規模にトレーニングおよびデプロイするために特別に構築されたインフラストラクチャです。クラスター管理者は、実行されている AMI バージョンに関する洞察が限られており、ドリフトの検出が困難で、セキュリティパッチの適用は手動で事後対応的なプロセスであり、数日間にわたるトレーニングジョブでの実行が困難で、NVIDIA ドライバーや CUDA のような AMI にバンドルされたソフトウェアが変更されるリスクがありました。HyperPod のこれらの新しい機能は、手動パッチ適用の運用上の負担を軽減しながら、クラスターを安全かつ一貫した状態に保つのに役立ちます。AMI バージョニングにより、セマンティックバージョニング (メジャー.マイナー.パッチ) フォーマットで、すべてのインスタンスグループとノードの正確な AMI バージョンを確認し、バージョンのドリフトを迅速に検出し、UpdateClusterSoftware API を使用して、以前の NVIDIA ドライバー、CUDA、およびその他のソフトウェアスタックを含む以前のバージョンにロールバックできます。自動パッチ適用は、オプトインのインスタンスグループごとの機能であり、ノードがアイドル状態になったときに後方互換性のあるセキュリティパッチのみを適用するため、実行中のワークロードは中断されず、NVIDIA ドライバー、CUDA バージョン、およびオペレーティングシステムカーネルなどの重要な AI/ML パッケージが異なるメジャーまたはマイナーバージョンにアップグレードされることはありません。CreateCluster または UpdateCluster API を通じて有効にできます。新しい AMI サポートポリシーは、HyperPod がセキュリティパッチの発行を停止する後のさまざまな AMI バージョンのサポートタイムラインも公開します。AMI バージョニングと自動パッチ適用の両方は、Amazon EKS によってオーケストレーションされた HyperPod クラスターで、SageMaker HyperPod がサポートされているすべての AWS リージョンで利用できます。詳細については、HyperPod AMI 管理ドキュメントおよび新しい HyperPod AMI サポートポリシーを参照してください。