Супермодель Nemotron 3.5 от NVIDIA теперь доступна на Amazon SageMaker JumpStart, расширяя портфель базовых моделей, доступных клиентам AWS. Эта модель обработки изображений и текста от семейства Nemotron 3.5 принимает изображения, видео и текст в качестве входных данных и генерирует текст, позволяя клиентам развертывать мультимодальные ИИ-решения на инфраструктуре AWS.Nemotron 3.5 Super VL предназначена для анализа документов, понимания графических интерфейсов, ответов на вопросы по видео и мультимодальных агентских приложений. Она сочетает в себе гибридную языковую основу Mixture-of-Experts (MoE) со 120 миллиардами параметров и 12 миллиардами активных параметров, а также энкодер изображений, поддерживая длину контекста до 1 миллиона токенов. Модель включает встроенную головку Multi-Token Prediction (MTP) для спекулятивного декодирования с целью ускорения генерации текста, с возможностью настройки логики по запросу. Она поддерживает десять языков, включая английский, французский, испанский, немецкий, японский, хинди, корейский и китайский. После обучения с помощью мультимодальной контролируемой донастройки на данных изображений, видео, документов, диаграмм и графических интерфейсов, а затем с помощью обучения с подкреплением GRPO, она обеспечивает вывод в структурированном формате JSON, вызов инструментов и настраиваемую логику для корпоративных агентских рабочих процессов. SageMaker JumpStart предлагает два варианта: NVFP4 для оптимизированного вывода на инстансах G7 с графическими процессорами NVIDIA RTX PRO 4500 Blackwell Server Edition и эталонные веса BF16 на ml.p5en.48xlarge для настройки, включая SFT, RL, дистилляцию и адаптацию к домену.С помощью SageMaker JumpStart клиенты могут развернуть Nemotron 3.5 Super VL всего за несколько кликов для решения своих конкретных задач в области ИИ.Чтобы начать работу с этими моделями, перейдите в каталог моделей SageMaker JumpStart в консоли SageMaker или используйте SageMaker Python SDK для развертывания моделей в вашей учетной записи AWS. Для получения дополнительной информации о развертывании и использовании базовых моделей в SageMaker JumpStart см. документацию Amazon SageMaker JumpStart.