Amazon SageMaker AI теперь под... Заметка

Amazon SageMaker AI теперь поддерживает бессерверную настройку моделей для NVIDIA Nemotron 3.5 Lightning

Amazon SageMaker AI теперь поддерживает бессерверную настройку моделей для модели NVIDIA Nemotron 3.5 Lightning с использованием контролируемого дообучения (SFT), прямой оптимизации предпочтений (DPO) и обучения с подкреплением (RFT). Это одна из последних моделей с открытым весом от NVIDIA, использующая гибридную архитектуру Mixture-of-Experts с 3 миллиардами активных параметров и 30 миллиардами параметров в общей сложности. Помимо развертывания этой модели на SageMaker AI, вы теперь можете адаптировать ее к своим конкретным областям и рабочим процессам.Настройка моделей позволяет адаптировать базовые модели с использованием ваших проприетарных данных, чтобы меньшая, правильно подобранная модель могла соответствовать качеству передовых моделей в ваших задачах, снижая затраты и задержки. Вы можете использовать размеченные данные с SFT для повышения точности в задачах, специфичных для конкретной области, данные предпочтений с DPO для согласования выходных данных с тоном вашей организации или сигналы вознаграждения с RFT для улучшения производительности в новых задачах. Благодаря бессерверной настройке SageMaker AI берет на себя все обеспечение инфраструктуры и оркестрацию обучения, поэтому вы можете сосредоточиться на своих данных и оценке, а не на управлении кластером, и платить только за то, что используете.Бессерверная настройка моделей для NVIDIA Nemotron 3.5 Lightning на SageMaker AI доступна в регионах US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) и Europe (Ireland). Чтобы начать, перейдите на страницу "Модели" в Amazon SageMaker Studio, чтобы запустить задание настройки, или используйте SageMaker Python SDK для программного доступа. Чтобы узнать больше, ознакомьтесь с документацией по настройке моделей Amazon SageMaker AI.