効率的なモデルデプロイを実現:Amazon SageMake... ノート

効率的なモデルデプロイを実現:Amazon SageMaker HyperPod での簡素化された推論オペレーター設定

この投稿では、新しいインストールエクスペリエンスを詳しく説明し、3つのデプロイ方法(コンソール、CLI、Terraform)を実演します。また、マルチインスタンスタイプデプロイメントやネイティブノードアフィニティなどの機能が、推論スケジューリングをきめ細かく制御する方法を示します。
CdXz5zHNQW_ZCqn9yp0Ei.png