Сегодня Amazon SageMaker AI объявляет о возможности настройки длины последовательности, используемой во время вашей задачи по настройке модели без сервера. Amazon SageMaker AI serverless model customization поддерживает дообучение многих моделей с открытым весом, включая модели из популярных семейств, таких как gpt-oss, Gemma, Llama, Nemotron и Qwen. Ранее каждый рецепт дообучения выполнялся с фиксированной длиной последовательности, которую клиенты не могли изменить. Клиентам иногда требуется изменять эти параметры для достижения лучших результатов в их конкретном случае. Клиенты также просили увеличить длину последовательности по сравнению со статическими значениями по умолчанию, которые мы поддерживали для некоторых моделей.Теперь вы можете устанавливать параметры длины последовательности как часть гиперпараметров задачи настройки, в пределах опубликованного максимума для выбранной вами модели и техники. Вы можете установить гиперпараметр dataset_max_len для задач SFT и DPO или установить гиперпараметры max_prompt_length и max_response_length для задач RFT. Это дает вам больше контроля для соответствия характеристикам ваших обучающих данных, независимо от того, работаете ли вы с короткими парами вопрос-ответ или многостраничными документами. Опубликованные максимумы составляют до 16 тысяч токенов для многих моделей, в зависимости от модели и техники.Настройка моделей без сервера на SageMaker AI доступна в регионах US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) и Europe (Ireland). Чтобы начать, перейдите на страницу "Модели" в Amazon SageMaker Studio, чтобы запустить задачу настройки, используйте SageMaker Python SDK или используйте наши навыки Agent с выбранным вами помощником по кодированию. Чтобы узнать больше и увидеть список моделей и поддерживаемых длин последовательностей для каждой техники, обратитесь к документации SageMaker AI.