超越每 token 价格:在 Amazon Bedrock ... 笔记

超越每 token 价格:在 Amazon Bedrock 上为您的工作负载选择合适的 OpenAI 模型

在“每百万 token 美元”上比较模型,忽略了生产工作负载实际支付的是结果。本文分享了一个开源基准测试框架,用于衡量 OpenAI 模型在 Amazon Bedrock 上的每个正确答案的成本、智能体轨迹成本以及按评分表评估的交付物质量。
CdXz5zHNQW_bIU1xhAw6R.png