RSS AWS 最新のお知らせ

Amazon Bedrock ナレッジベースがクロスリージョン推論をサポート

Amazon Bedrock Knowledge Basesがクロスリージョン推論(cross-region inference)をサポートすることを発表しました。これは、オプション機能で、開発者が複数のAWSリージョンにまたがるコンピューティングを利用して、トラフィックの急増をスムーズに管理できるようにします。クロスリージョン推論を使用すると、RetrieveAndGenerate APIを使用するAmazon Bedrock Knowledge Baseの顧客は、ピーク時には高いスループット制限と強化された耐久性を実現できます。クロスリージョン推論を有効にすると、開発者は需要の変動を予測する時間と労力を費やす必要がなくなります。代わりに、クロスリージョン推論はトラフィックを複数のリージョンに動的にルーティングし、各リクエストの最適な可用性と高使用率期間中のスムーズなパフォーマンスを保証します。クロスリージョン推論を使用するには、顧客は、RetrieveAndGenerate APIのリクエストで「modelARN」として推論プロファイルを指定する必要があります。クロスリージョン推論を使用する場合の追加のルーティングコストはありません。リクエスト元のリージョン(ソースリージョン)に基づいて課金されます。サポートされているモデルと事前定義されたリージョンのリストはこちらを参照してください。機能の詳細と開始方法については、Amazon Bedrockのドキュメントまたはこのブログを参照してください。
favicon
aws.amazon.com
Amazon Bedrock Knowledge Bases now supports cross-region inference