Nemotron 3.5 Super VL モデルが Ama... ノート

Nemotron 3.5 Super VL モデルが Amazon SageMaker JumpStart で利用可能になりました

NVIDIAのNemotron 3.5 Super VLはAmazon SageMaker JumpStartで利用可能となり、AWS顧客向けの基礎モデルのポートフォリオが拡大しています。Nemotron 3.5ファミリーのこのビジョン言語モデルは、画像、動画、テキストを入力として受け入れ、テキストを生成するため、顧客はAWSインフラ上でマルチモーダルAIソリューションを展開できます。Nemotron 3.5 Super VLは、ドキュメントインテリジェンス、GUI理解、ビデオ質問応答、マルチモーダルエージェントアプリケーション向けに設計されています。120BパラメータのハイブリッドMixture-of-Experts(MoE)言語バックボーンと12Bのアクティブパラメータ、ビジョンエンコーダーを組み合わせ、最大100万トークンのコンテキスト長をサポートします。モデルには、テキスト生成を加速する推測的デコード用のマルチトークン予測(MTP)ヘッドが内蔵されており、要求ごとに推論を設定可能です。英語、フランス語、スペイン語、ドイツ語、日本語、ヒンディー語、韓国語、中国語の10言語に対応しています。画像、動画、ドキュメント、チャート、GUIデータのマルチモーダル監督による微調整を後処理し、その後GRPO強化学習を行います。エンタープライズエージェントのワークフロー向けに構造化されたJSON出力、ツール呼び出し、設定可能な推論を提供します。SageMaker JumpStartは2つのバリアントを提供しています。NVFP4はNVIDIA RTX PRO 4500 Blackwell Server Edition GPUを搭載したG7インスタンスでの最適化推論用、ML.p5en.48xlargeではBF16リファレンスウェイトを使い、SFT、RL、蒸留、ドメイン適応などのカスタマイズが可能です。SageMaker JumpStartを使えば、顧客は数回のクリックでNemotron 3.5 Super VLを展開し、それぞれのAIユースケースに対応します。これらのモデルを使い始めるには、SageMaker JumpStartのモデルカタログにアクセスするか、SageMaker Python SDKを使ってAWSアカウントにモデルをデプロイしてください。SageMaker JumpStartでの基礎モデルの展開や使用に関する詳細は、Amazon SageMaker JumpStartのドキュメントをご覧ください。