Amazon SageMaker AI は、トレーニングおよび処理ジョブでインスタンスの優先度リストをサポートするようになりました。
本日、Amazon SageMaker AI は、トレーニングおよび処理ジョブ向けのインスタンス優先度リストを発表し、ワークロードのコンピューティング容量を見つけるのがより簡単かつ迅速になります。多くの AI トレーニング、ファインチューニング、およびデータ処理ワークロードは、いくつかのインスタンスタイプまたはサイズのいずれかで同等にうまく実行されます。しかし、これまでは、ジョブ送信時に 1 つのインスタンスタイプのみを指定し、SageMaker がジョブの特定のインスタンスを見つけるのを待つ必要がありました。ピーク時の高需要 GPU では、待ち時間が予測不可能になる場合があり、顧客は複雑なリトライロジックを構築したり、最初に利用可能なオプションを見つけるために異なるインスタンスタイプで複数のジョブを同時に送信したりする必要がありました。これで、ワークロードが受け入れるインスタンスタイプの優先度付きリストを提供するだけで、SageMaker は優先度リストの最初の利用可能な構成でジョブを自動的に実行します。このソリューションにより、トレーニングまたは処理ジョブはより早く開始される可能性が高くなります。この機能を使用するには、トレーニングまたは処理ジョブを送信する際に、インスタンスタイプとインスタンス数の優先度を順序付けて指定します。たとえば、リストには ml.g6.48xlarge の 2 つのインスタンス、または ml.g5.48xlarge の 4 つのインスタンスの優先度が含まれる場合があります。SageMaker はリストを順に処理し、容量が利用可能な最初の構成でジョブを起動します。また、同じジョブ送信内で、オンデマンドソースまたは予約済みの SageMaker Flexible Training Plans からの容量ソースを構成することもできます。この機能は、高需要期間中のジョブのコンピューティングの取得プロセスを簡素化し、SageMaker トレーニングおよび処理ジョブ API 内で、それ以外では行うことになる区別のない手動リトライを削減します。SageMaker トレーニングおよび処理ジョブ向けのインスタンス優先度リストは、本日、SageMaker が利用可能なすべての AWS リージョンで、SageMaker CLI、API、SDK、およびコンソール UI を通じて利用可能です。詳細については、ドキュメントまたはローンチブログをご覧ください。