AWS Machine Learning Blog 한국어 팔로우 Amazon Bedrock과 LiteLLM으로 셀프 서비스 LLM 게이트웨이 구축하기 AWS Fargate에서 LiteLLM을 사용하여 자체 서비스 LLM 게이트웨이를 구축하여 Amazon Bedrock 파운데이션 모델을 OpenAI 호환 API 뒤에 배치합니다. 개발자는 단일 API 키를 통해 즉시 액세스할 수 있으며, 플랫폼 팀은 사용자별 비용 제어, 할당량 격리 및 관찰 가능성을 확보할 수 있습니다. Building a self-service LLM gateway with Amazon Bedrock and LiteLLM aws.amazon.com AWS Machine Learning Blog 한국어 RSS thenote.app