AWS Machine Learning Blog 中文 关注 使用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关 在 AWS Fargate 上构建一个基于 LiteLLM 的自助式 LLM 网关,将 Amazon Bedrock 基础模型置于兼容 OpenAI 的 API 之后。开发人员可通过单个 API 密钥立即获得访问权限,而平台团队则可实现按用户计费的成本控制、配额隔离及可观测性。 Building a self-service LLM gateway with Amazon Bedrock and LiteLLM aws.amazon.com AWS Machine Learning Blog 中文 RSS thenote.app