Amazon SageMaker JumpStart에서 M... 노트

Amazon SageMaker JumpStart에서 Ministral-3-3B-Instruct-2512 및 Ministral-3-8B-Instruct-2512 모델을 사용할 수 있습니다.

Mistral AI의 Ministral-3-3B-Instruct-2512 및 Ministral-3-8B-Instruct-2512 모델이 이제 Amazon SageMaker JumpStart를 통해 액세스 가능합니다. 이 모델들은 엣지 배포 및 리소스 제한 환경을 위해 설계되었으며, 컴팩트하면서도 강력한 AI 솔루션을 제공합니다. Ministral-3-3B 모델은 멀티모달 이해 기능을 갖춘 초경량 엣지 사용 사례에 최적화되어 있습니다. 3.4B 언어 모델과 0.4B 비전 인코더를 특징으로 하며, 8GB VRAM 내에 적합합니다. 이 모델은 256K 토큰 컨텍스트 창을 지원하며 비전 분석 및 다국어 지침에 탁월합니다. 또한 강력한 시스템 프롬프트 준수 및 네이티브 함수 호출 기능을 보여줍니다. Ministral-3-8B 모델은 컴팩트한 8B 패키지에서 최첨단 성능을 제공합니다. 8.4B 언어 모델과 0.4B 비전 인코더를 포함하며, 12GB VRAM이 필요합니다. 이 모델은 효율적인 추론을 위해 인터리브 슬라이딩 윈도우 어텐션을 활용합니다. 두 모델 모두 인상적인 다국어 지원, 에이전트 기능 및 함수 호출 기능을 제공합니다. 고객은 SageMaker JumpStart를 통해 다양한 AI 애플리케이션을 위해 이러한 모델을 쉽게 배포할 수 있습니다.