Amazon SageMaker JumpStart で G... ノート

Amazon SageMaker JumpStart で Gemma-4-31B-it-assistant および Gemma-4-31B-IT-NVFP4 モデルが利用可能になりました

Google DeepMindのGemma-4-31B-it-assistantとNVIDIAのGemma-4-31B-IT-NVFP4モデルが、Amazon SageMaker JumpStartで利用可能になりました。これらのモデルは、エンタープライズユースケース向けに強力なGemma 4 31B密行列構造を提供します。アシスタントチューニングされたGemma-4-31B-it-assistantは、マルチモーダル推論、コーディング、エージェントワークフローに優れています。テキストと画像の入力を受け付け、広大なコンテキストウィンドウをサポートし、140以上の言語に対応しています。このバリアントは、オープンモデルリーダーボードで高い評価を得ており、より大きなモデルを凌駕しています。ハイブリッドアテンションメカニズムとネイティブ関数呼び出しを使用して、自律エージェントを実現します。NVIDIAのGemma-4-31B-IT-NVFP4は、同じ機能を提供しますが、メモリフットプリントが大幅に削減されています。NVIDIAのModelOptを使用して4ビットFP4精度に量子化されており、より少ないメモリで高速な推論を実現します。この最適化されたバージョンは、高い品質を維持し、コスト効率の高い本番環境へのデプロイに適しています。SageMaker JumpStartを使用すると、ユーザーは最小限のクリックでこれらのモデルを簡単にデプロイできます。顧客は、SageMakerコンソールまたはSageMaker Python SDKを介してこれらのモデルにアクセスできます。