AWS Machine Learning Blog 日本語 フォロー Amazon Bedrock でオープンウェイトモデルのプロンプトキャッシュを使用する 多くの生成AIアプリケーションは、リクエストごとに同じ長いコンテキストを再送信します。プロンプトキャッシュにより、Amazon Bedrock上のオープンウェイトモデルはそれを再利用して、入力コストとレイテンシを削減できます。この記事では、Chat Completions APIを介した暗黙的および明示的なキャッシュを示し、OpenCodeコーディングエージェントセッションにキャッシュを適用します。 Use prompt caching with open-weight models on Amazon Bedrock aws.amazon.com AWS Machine Learning Blog 日本語 RSS thenote.app