Настройка моделей Amazon SageMaker AI serverless теперь поддерживает API сеансов обучения, предоставляя клиентам полный контроль над своим алгоритмом после обучения без необходимости выделения или управления инфраструктурой GPU. Управляемые методы, включая SFT, DPO и другие методы обучения с подкреплением, позволяют клиентам выбирать метод и модель, а SageMaker AI выполняет обучение. С помощью API сеансов обучения команды могут писать цикл обучения, будь то воспроизведение SFT или DPO на своих условиях, или реализация пользовательской функции потерь, нового сигнала вознаграждения RL, учебного плана данных или алгоритма непосредственно из последних исследований. Такие операции, как forward_backward(), optim_step() и sample(), становятся вызовами API для активного сеанса с сохранением состояния, поэтому клиенты могут создавать любую процедуру обучения, которую требует их метод, в то время как SageMaker AI обрабатывает выделение GPU, загрузку модели и LoRA, распределенное выполнение, восстановление после сбоев, хранение контрольных точек и безопасность. Клиенты могут вызывать эти операции непосредственно из своего собственного кода Python для управления обучением с подкреплением, контролируемой донастройкой или пользовательскими целями обучения в активном сеансе, с встроенным сохранением и возобновлением контрольных точек. Оплата производится за обработанный токен, поэтому локальные вычисления, такие как оценка вознаграждения, не тарифицируются как время GPU. SageMaker AI также выпускает сборник рецептов SageMaker для сеансов обучения, набор готовых к использованию рецептов SFT и RL, которые клиенты могут использовать в качестве шаблонов для своих собственных циклов обучения.API сеансов обучения общедоступны сегодня в регионах US East (N. Virginia), US West (Oregon) и Asia Pacific (Mumbai). Чтобы начать работу, установите SageMaker Python SDK и клонируйте сборник рецептов, или запустите блокнот в SageMaker Studio и подключите агент кодирования. Чтобы узнать больше, посетите документацию и веб-страницу Amazon SageMaker AI.