AWS Machine Learning Blog 日本語 フォロー Amazon BedrockとLiteLLMでセルフサービスLLMゲートウェイを構築する LiteLLM を使用して AWS Fargate 上にセルフサービス LLM ゲートウェイを構築し、Amazon Bedrock の基盤モデルを OpenAI 互換 API の背後に配置します。開発者は単一の API キーで即座にアクセスでき、プラットフォームチームはユーザーごとのコスト管理、クォータ分離、オブザーバビリティを獲得できます。 Building a self-service LLM gateway with Amazon Bedrock and LiteLLM aws.amazon.com AWS Machine Learning Blog 日本語 RSS thenote.app