비용에 영향을 미치는 네 가지 아마존 베드락 추론 선택... 노트

비용에 영향을 미치는 네 가지 아마존 베드락 추론 선택지

Amazon Bedrock 추론 비용은 프롬프트와 애플리케이션 로직을 조정해도 계속 증가할 수 있습니다. 네 가지 요청 수준 선택(캐시 지속 시간, 서비스 계층, 추론 노력, maxTokens)은 서비스가 처리하는 토큰 수와 적용되는 요율을 변경합니다. 각 항목을 테스트한 방법과 그 효과를 확인하는 방법을 보여줍니다.
CdXz5zHNQW_UhGzVQeuh4.jpeg