Amazon Bedrock における Amazon Nova Pro ファンデーションモデルのレイテンシーオプティマイズドインフェレンスを発表

Amazon Nova Pro ファンデーションモデルは、Amazon Bedrock 上でプレビュー段階でレイテンシーオプティマイズドインフェレンスをサポート開始しました。これにより、ジェネレーティブAIアプリケーションのレスポンスタイムが短縮され、応答性が向上します。レイテンシーオプティマイズドインフェレンスは、レイテンシーセンシティブアプリケーションのレスポンスタイムを短縮し、エンドユーザーの体験を向上させ、開発者がパフォーマンスを最適化するための柔軟性を高めます。この機能にアクセスするには、追加の設定やモデルファインチューニングは不要で、既存のアプリケーションのレスポンスタイムを即座に改善することができます。Amazon Nova Pro のレイテンシーオプティマイズドインフェレンスは、US West (Oregon)、US East (Virginia)、US East (Ohio) リージョンでのクロスリージョンインフェレンスを通じて提供されています。Amazon Nova ファンデーションモデルの詳細については、AWS News Blog、Amazon Nova 製品ページ、Amazon Nova ユーザーガイドで学ぶことができます。Bedrock 上のレイテンシーオプティマイズドインフェレンスの詳細については、ドキュメントで学ぶことができます。Amazon Bedrock コンソールから Amazon Nova ファンデーションモデルを開始することができます。