Модели Gemma-4-31B-it-assistan... Заметка

Модели Gemma-4-31B-it-assistant и Gemma-4-31B-IT-NVFP4 теперь доступны на Amazon SageMaker JumpStart

Модели Gemma-4-31B-it-assistant от Google DeepMind и Gemma-4-31B-IT-NVFP4 от NVIDIA теперь доступны через Amazon SageMaker JumpStart. Эти модели предоставляют мощную плотную архитектуру Gemma 4 31B для корпоративных сценариев использования. Модель Gemma-4-31B-it-assistant, настроенная для работы в качестве ассистента, превосходно справляется с мультимодальным рассуждением, программированием и рабочими процессами агентов. Она принимает текстовые и графические входные данные, поддерживает огромное контекстное окно и работает более чем со 140 языками. Этот вариант занимает высокие места в рейтингах открытых моделей, превосходя более крупные модели. Он использует гибридный механизм внимания и нативную функцию вызова для автономных агентов. Модель Gemma-4-31B-IT-NVFP4 от NVIDIA предлагает те же возможности, но со значительно уменьшенным объемом памяти. Квантованная до 4-битной точности FP4 с использованием NVIDIA ModelOpt, она требует меньше памяти и обеспечивает более быстрое инференс. Эта оптимизированная версия сохраняет высокое качество и подходит для экономически эффективных производственных развертываний. SageMaker JumpStart позволяет пользователям легко развертывать эти модели с минимальным количеством кликов. Клиенты могут получить доступ к этим моделям через консоль SageMaker или SageMaker Python SDK.