RSS クラウド ブログ
フォロー
必要な時にGPUを:Flex-start VMのご紹介
AIによるイノベーションにはGPUのような希少なリソースが必要であり、それがDynamic Workload Scheduler(DWS)とその新機能であるFlex-start VMの開発につながりました。Flex-start VMは、要求の厳しいタスクに対してGPUへの公平なアクセスを優先する、独自の消費モデルを提供します。モデルのファインチューニングやバッチ推論のような時間制限のあるワークロードに最適です。主な利点は、リクエストを最大2時間キューに入れることができるため、リソースの取得可能性が劇的に向上することです。ユーザーは、標準のオンデマンド料金と比較して割引が適用される、コスト効率の高い価格設定からも恩恵を受けられます。Flex-start VMは最大7日間実行でき、プリエンティブルクォータを利用します。新しいパラメータであるrequest-valid-for-durationにより、ユーザーはVMリクエストが容量を待つ期間を指定できます。これは、利用できないリソースをすぐに拒否する以前の「fail-fast」アプローチとは対照的です。Flex-start VMは直接APIアクセスを提供し、既存のワークフローやスケジューラへの簡単な統合を可能にします。ユーザーは、停止および開始機能によって制御を維持でき、設定可能な終了アクションにより、有効期限切れ時にVM構成が保持されます。