Amazon Bedrock Advanced Prompt Optimization は、プロンプトの短縮をサポートするようになりました。これは、評価スコアを維持または向上させながらプロンプトの長さを短縮するオプション設定です。Advanced Prompt Optimization は、Amazon Bedrock 上のあらゆるモデルに対して、お客様独自の評価基準に基づいてプロンプトを最適化します。これまで、最適化は品質のみに焦点を当てていました。最適化されたプロンプトは、元のプロンプトよりも長くなることがよくありました。長いプロンプトは入力トークンコストを増加させ、初回トークンまでの時間を増加させる可能性があります。これは、大規模なアプリケーションやレイテンシに敏感なアプリケーションでは重要です。入力データセットのプロンプトテンプレートでプロンプト短縮を有効にすると、オプティマイザーはプロンプトの長さを短縮します。最適化されたプロンプトは、元のプロンプトよりも短い場合にのみ返され、評価で少なくとも同等以上のスコアを獲得した場合に限ります。それ以外の場合は元のプロンプトが返されるため、この設定によって元のプロンプトよりも長く、またはスコアの低いプロンプトになることはありません。結果には、圧縮率、元のトークン数と最適化されたトークン数が、出力ファイルとコンソール結果ページに含まれます。例えば、圧縮率が 0.7 の場合、最適化されたプロンプトは 30% 少ないトークンを使用します。プロンプト短縮は、ステアリング基準、LLM-as-a-judge のルーブリック、カスタム Lambda 評価など、あらゆる評価方法で機能します。プロンプト短縮は、Advanced Prompt Optimization が利用可能なすべての AWS リージョンで利用できます。開始するには、入力データセットのプロンプトテンプレートでプロンプト短縮を有効にし、通常どおり最適化ジョブを作成してください。詳細については、Amazon Bedrock ユーザーガイドの「プロンプトの短縮」、Amazon Bedrock の料金ページ、および Amazon Bedrock の製品ページを参照してください。