Amazon Bedrock은 Anthropic의 Claude 모델에 대한 프롬프트 캐싱을 업데이트하여 Claude 3.5 Haiku, Claude 3.7 및 Claude 4 모델의 사용 편의성을 향상시켰습니다.이전에는 개발자가 수동으로 캐시 포인트를 관리하고 어떤 캐시 세그먼트를 재사용해야 하는지 추적해야 했습니다. 간소화된 캐시 관리 기능을 사용하면 요청 끝에 캐시 중단점만 설정하면 됩니다. 시스템은 자동으로 가장 긴 이전에 캐시된 접두사를 읽어오므로 재사용할 세그먼트를 수동으로 지정할 필요가 없어지고 캐시 로직을 관리하는 데 필요한 노력이 줄어듭니다.올바른 캐시 콘텐츠를 자동으로 식별하고 적용함으로써 간소화된 캐시 관리는 수동 노력을 줄여줄 뿐만 아니라 캐시 읽기 토큰이 분당 토큰(TPM) 할당량에 포함되지 않으므로 더 많은 토큰을 확보하는 데 도움이 됩니다. 이를 통해 멀티턴 워크플로 및 연구 도우미 구축이 용이해지고 성능과 비용 효율성이 모두 향상될 수 있습니다.간소화된 캐시 관리는 오늘부터 Amazon Bedrock에서 Anthropic Claude 3.5 Haiku, Claude 3.7 및 Claude 4 모델을 제공하는 모든 리전에서 사용할 수 있습니다. 시작하려면 Amazon Bedrock 개발자 가이드를 검토하고 모델 호출에서 캐싱을 활성화하십시오.