아마존 베드락 지식 베이스가 이제 크로스 리전 추론을 지원합니다.

아마존 베드락 지식 베이스(Amazon Bedrock Knowledge Bases)에서 크로스 리전 추론(cross-region inference)을 지원한다고 발표했습니다. 크로스 리전 추론은 선택적 기능으로 개발자가 다양한 AWS 리전의 컴퓨팅을 활용하여 트래픽 폭증을 원활하게 관리할 수 있도록 합니다. 크로스 리전 추론을 사용하면 RetrieveAndGenerate API를 사용하는 아마존 베드락 지식 베이스 고객은 피크 시간에 더 높은 처리량 제한과 향상된 내구성을 얻을 수 있습니다. 크로스 리전 추론을 사용하면 개발자가 수요 변동을 예측하는 데 시간과 노력을 들일 필요가 없습니다. 대신, 크로스 리전 추론은 다중 리전에 트래픽을 동적으로 라우팅하여 각 요청에 최적의 가용성을 제공하고 고사용 기간 동안 더 부드러운 성능을 제공합니다. 크로스 리전 추론을 사용하려면 RetrieveAndGenerate API 요청에서 "modelARN"으로 추론 프로필을 지정해야 합니다. 크로스 리전 추론을 사용하는 경우 추가 라우팅 비용이 없으며 요청한 리전(소스 리전)에 따라 요금이 청구됩니다. 지원되는 모델과 사전 정의된 리전 목록은 여기에서 찾을 수 있습니다. 이 기능에 대해 자세히 알아보고 시작하는 방법을 배우려면 아마존 베드락 문서 또는 이 블로그를 참조하세요.