Nemotron 3.5 Super VL 模型现已在 Am... 笔记

Nemotron 3.5 Super VL 模型现已在 Amazon SageMaker JumpStart 上提供

NVIDIA 的 Nemotron 3.5 Super VL 现已在 Amazon SageMaker JumpStart 上推出,扩展了可供 AWS 客户使用的基座模型组合。这款来自 Nemotron 3.5 系列的视觉 - 语言模型接受图像、视频和文本作为输入并生成文本,使客户能够在 AWS 基础设施上部署多模态 AI 解决方案。Nemotron 3.5 Super VL 专为文档智能、GUI 理解、视频问答及多模态代理应用而设计。该模型采用 120B 参数量混合专家(MoE)语言骨干与 12B 激活参数量及视觉编码器相结合,支持高达 100 万 token 的上下文长度。模型内置多 token 预测(MTP)头以用于推测解码,从而加速文本生成,且推理能力可按请求进行配置。该模型支持包括英语、法语、西班牙语、德语、日语、印地语、韩语和中文在内的十种语言。模型经过基于图像、视频、文档、图表和 GUI 数据的多模态监督微调,随后进行 GRPO 强化学习,能够输出结构化 JSON、支持工具调用,并提供可配置的推理能力,以满足企业级代理工作流需求。SageMaker JumpStart 提供两种变体:NVFP4 变体可在搭载 NVIDIA RTX PRO 4500 Blackwell Server Edition GPU 的 G7 实例上实现优化推理;BF16 参考权重则托管于 ml.p5en.48xlarge 实例,支持包括监督微调(SFT)、强化学习(RL)、知识蒸馏及领域适应在内的自定义操作。借助 SageMaker JumpStart,客户仅需数步点击即可部署 Nemotron 3.5 Super VL,以应对其特定的 AI 应用场景。若要开始使用这些模型,请登录 SageMaker 控制台访问 SageMaker JumpStart 模型目录,或使用 SageMaker Python SDK 将模型部署至您的 AWS 账户。有关在 SageMaker JumpStart 中部署和使用基座模型的更多信息,请参阅 Amazon SageMaker JumpStart 文档。