Amazon SageMaker AIは、NVIDIA Ne... ノート

Amazon SageMaker AIは、NVIDIA Nemotron 3.5 Lightningのサーバーレスモデルカスタマイズをサポートするようになりました。

Amazon SageMaker AI は、NVIDIA Nemotron 3.5 Lightning モデルのサーバーレスモデルカスタマイズを、教師ありファインチューニング(SFT)、直接選好最適化(DPO)、および強化学習ファインチューニング(RFT)でサポートするようになりました。これは NVIDIA の最新のオープンウェイトモデルの 1 つであり、3B のアクティブパラメータと合計 30B のパラメータを持つハイブリッド Mixture-of-Experts アーキテクチャを採用しています。このモデルを SageMaker AI にデプロイするだけでなく、特定のドメインやワークフローに合わせて適応させることができるようになりました。モデルカスタマイズにより、独自のデータで基盤モデルを調整できるため、より小さく適切なサイズのモデルで、フロンティアモデルと同等の品質をタスクで実現し、コストとレイテンシを削減できます。SFT ではラベル付きデータを使用してドメイン固有のタスクの精度を向上させ、DPO では選好データを使用して組織のトーンに合わせた出力を調整し、RFT では報酬信号を使用して新しいタスクでのパフォーマンスを向上させることができます。サーバーレスカスタマイズでは、SageMaker AI がインフラストラクチャのプロビジョニングとトレーニングのオーケストレーションをすべて処理するため、クラスター管理ではなくデータと評価に集中でき、使用した分だけお支払いいただけます。Amazon SageMaker AI での NVIDIA Nemotron 3.5 Lightning のサーバーレスモデルカスタマイズは、米国東部(バージニア北部)、米国西部(オレゴン)、アジア太平洋(東京)、および欧州(アイルランド)で利用可能です。開始するには、Amazon SageMaker Studio のモデルページに移動してカスタマイズジョブを起動するか、SageMaker Python SDK を使用してプログラムでアクセスしてください。詳細については、Amazon SageMaker AI モデルカスタマイズのドキュメントを参照してください。