Nemotron 3.5 Super VL 모델이 Amaz... 노트

Nemotron 3.5 Super VL 모델이 Amazon SageMaker JumpStart에서 출시되었습니다.

NVIDIA의 Nemotron 3.5 Super VL이 Amazon SageMaker JumpStart에서 제공되어 AWS 고객이 사용할 수 있는 파운데이션 모델 포트폴리오가 확장되었습니다. Nemotron 3.5 제품군의 이 비전-언어 모델은 이미지, 비디오, 텍스트를 입력으로 받아 텍스트를 생성하며, 고객은 이를 통해 AWS 인프라에서 멀티모달 AI 솔루션을 배포할 수 있습니다.Nemotron 3.5 Super VL은 문서 인텔리전스, GUI 이해, 비디오 질의응답 및 멀티모달 에이전트 애플리케이션을 위해 설계되었습니다. 120B 매개변수의 하이브리드 Mixture-of-Experts(MoE) 언어 백본과 12B 활성 매개변수 및 비전 인코더를 결합하여 최대 100만 토큰의 컨텍스트 길이를 지원합니다. 이 모델은 텍스트 생성을 가속화하기 위한 추측 디코딩을 위한 내장 Multi-Token Prediction(MTP) 헤드를 포함하며, 요청별로 추론을 구성할 수 있습니다. 영어, 프랑스어, 스페인어, 독일어, 일본어, 힌디어, 한국어, 중국어를 포함한 10개 언어를 지원합니다. 이미지, 비디오, 문서, 차트 및 GUI 데이터에 대한 멀티모달 지도 학습 미세 조정 후 GRPO 강화 학습으로 후처리되어, 엔터프라이즈 에이전트 워크플로우를 위한 구조화된 JSON 출력, 도구 호출 및 구성 가능한 추론을 제공합니다. SageMaker JumpStart는 두 가지 변형을 제공합니다: NVIDIA RTX PRO 4500 Blackwell Server Edition GPU가 탑재된 G7 인스턴스에서 최적화된 추론을 위한 NVFP4, 그리고 SFT, RL, 증류 및 도메인 적응을 포함한 사용자 지정을 위한 ml.p5en.48xlarge의 BF16 참조 가중치입니다.SageMaker JumpStart를 통해 고객은 몇 번의 클릭만으로 Nemotron 3.5 Super VL을 배포하여 특정 AI 사용 사례를 해결할 수 있습니다.이 모델들을 시작하려면 SageMaker 콘솔에서 SageMaker JumpStart 모델 카탈로그로 이동하거나 SageMaker Python SDK를 사용하여 모델을 AWS 계정에 배포하십시오. SageMaker JumpStart에서 파운데이션 모델을 배포하고 사용하는 방법에 대한 자세한 내용은 Amazon SageMaker JumpStart 설명서를 참조하십시오.