本日、Amazon SageMaker AI は、サーバーレスモデルカスタマイズジョブで使用されるシーケンス長を設定する機能の提供を開始しました。Amazon SageMaker AI のサーバーレスモデルカスタマイズは、gpt-oss、Gemma、Llama、Nemotron、Qwen といった人気のファミリーのモデルを含む、多くのオープンウェイトモデルのファインチューニングをサポートしています。以前は、各ファインチューニングレシピは、顧客が変更できない固定のシーケンス長で実行されていました。顧客は、ユースケースでより良い結果を得るために、これらのパラメータを変更する必要がある場合があります。また、一部のモデルでサポートされていた静的なデフォルトよりも長いシーケンス長を求める声もありました。今回、カスタマイズジョブのハイパーパラメータの一部としてシーケンス長パラメータを設定できるようになりました。これは、選択したモデルとテクニックの公開されている最大値まで、どこでも設定可能です。SFT および DPO ジョブの場合は dataset_max_len ハイパーパラメータを、RFT ジョブの場合は max_prompt_length および max_response_length ハイパーパラメータを設定できます。これにより、短い質問応答ペアを扱う場合でも、複数ページのドキュメントを扱う場合でも、トレーニングデータの特性に合わせてより細かく制御できるようになります。公開されている最大値は、モデルとテクニックに応じて、多くのモデルで最大 16K トークンです。SageMaker AI のサーバーレスモデルカスタマイズは、米国東部（バージニア北部）、米国西部（オレゴン）、アジア太平洋（東京）、およびヨーロッパ（アイルランド）で利用可能です。開始するには、Amazon SageMaker Studio のモデルページに移動してカスタマイズジョブを起動するか、SageMaker Python SDK を使用するか、コーディングアシスタントと組み合わせてエージェントスキルを使用してください。詳細については、テクニックごとのモデルとサポートされているシーケンス長のリストについては、SageMaker AI ドキュメントを参照してください。