四个影响成本的亚马逊基岩推断选项 笔记

四个影响成本的亚马逊基岩推断选项

即使调整了提示词和应用逻辑,您的 Amazon Bedrock 推理账单仍可能持续攀升。四个请求级别的选项(缓存时长、服务层级、推理努力程度和 maxTokens)会影响服务处理的 token 数量及所应用的费率。我们展示了如何测试每一项,以及如何验证其影响。
CdXz5zHNQW_UhGzVQeuh4.jpeg