Amazon SageMaker AI、サーバーレスモデルカ... ノート

Amazon SageMaker AI、サーバーレスモデルカスタマイズのためのトレーニングセッションAPIを発表

Amazon SageMaker AI サーバーレスモデルカスタマイゼーションは、トレーニングセッションAPIをサポートするようになり、顧客はGPUインフラストラクチャをプロビジョニングまたは管理することなく、トレーニング後のアルゴリズムを完全に制御できるようになりました。SFT、DPO、その他の強化学習手法を含むマネージド手法により、顧客は手法とモデルを選択するだけで、SageMaker AI がトレーニングを実行します。トレーニングセッションAPIを使用すると、チームは、SFTまたはDPOを独自の条件で再現する場合でも、カスタムロス、新しいRL報酬シグナル、データカリキュラム、または最新の研究からのアルゴリズムを実装する場合でも、トレーニングループを記述できます。forward_backward()、optim_step()、sample() などの操作は、ライブでステートフルなセッションに対するAPI呼び出しとなり、顧客は手法に必要なトレーニング手順を自由に構成でき、SageMaker AI がGPU割り当て、モデルとLoRAのロード、分散実行、障害回復、チェックポイントストレージ、セキュリティを処理します。顧客はこれらの操作を独自のPythonコードから直接呼び出して、ライブセッションに対して強化学習、教師ありファインチューニング、またはカスタムトレーニング目標を推進でき、チェックポイントと再開が組み込まれています。請求は処理されたトークンごとに行われるため、報酬スコアリングのようなローカル計算はGPU時間として請求されません。SageMaker AI は、顧客が独自のトレーニングループのブループリントとして使用できる、すぐに実行できるSFTおよびRLレシピのセットであるSageMakerトレーニングセッションクックブックもリリースしています。トレーニングセッションAPIは、米国東部(バージニア北部)、米国西部(オレゴン)、およびアジア太平洋(ムンバイ)で本日より一般提供されます。開始するには、SageMaker Python SDK をインストールしてクックブックをクローンするか、SageMaker Studio でノートブックを起動してコーディングエージェントを接続します。詳細については、ドキュメントおよびAmazon SageMaker AI ウェブページをご覧ください。