Amazon Bedrock이 이제 Anthropic Claude Sonnet 4의 글로벌 리전 간 추론을 지원합니다.
Amazon Bedrock의 Claude Sonnet 4가 이제 글로벌 교차 리전 추론 기능을 지원하므로, 추론 요청을 처리할 지원되는 상업용 AWS 리전에 라우팅하기 위해 글로벌 Claude Sonnet 4 추론 프로필을 사용할 수 있습니다. 이를 통해 가용 리소스를 최적화하고 모델 처리량을 높일 수 있습니다. Amazon Bedrock은 생성형 AI 애플리케이션 및 에이전트 구축을 위한 포괄적이고 안전하며 유연한 서비스입니다. Amazon Bedrock에서 온디맨드 및 배치 추론을 사용할 때, 서비스 할당량이나 피크 사용 시간 동안 요청이 제한될 수 있습니다. 교차 리전 추론을 사용하면 다른 AWS 리전의 컴퓨팅을 활용하여 예상치 못한 트래픽 증가를 원활하게 관리할 수 있습니다. 교차 리전 추론을 통해 여러 AWS 리전에 트래픽을 분산하여 처리량을 높일 수 있습니다. 이전에 미국, EU 또는 APAC과 같은 특정 지리적 영역에 연결된 교차 리전 추론 프로필을 선택하여 해당 지리적 영역 내에서 최적의 상업용 AWS 리전을 자동으로 선택하여 추론 요청을 처리할 수 있었습니다. 이제 특정 지리적 영역에 연결된 추론 프로필을 선택할 필요가 없는 생성형 AI 사용 사례의 경우, 글로벌 교차 리전 추론 프로필을 사용하여 모델 처리량을 더욱 높일 수 있습니다. Amazon Bedrock의 글로벌 교차 리전 추론에 대해 더 자세히 알아보려면, 교차 리전 추론으로 처리량 늘리기 관련 문서를 방문하거나, 추론 프로필에 지원되는 리전 및 모델을 확인하고, 시작하는 방법을 설명하는 모델 호출에서 추론 프로필 사용 페이지의 단계를 따르십시오.