Administración de caché simpli... Nota

Administración de caché simplificada para los modelos Claude de Anthropic en Amazon Bedrock

Amazon Bedrock ha actualizado el almacenamiento en caché de indicaciones para los modelos Claude de Anthropic para mejorar la facilidad de uso para los modelos Claude 3.5 Haiku, Claude 3.7 y Claude 4.Anteriormente, los desarrolladores necesitaban administrar los puntos de caché manualmente y hacer un seguimiento de qué segmentos en caché debían reutilizarse. Con la gestión simplificada de caché, solo necesita establecer un punto de interrupción de caché al final de su solicitud. El sistema lee automáticamente del prefijo previamente almacenado en caché más largo, lo que elimina la necesidad de especificar manualmente qué segmentos reutilizar y reduce el esfuerzo requerido para administrar la lógica de caché.Al identificar y aplicar automáticamente el contenido en caché correcto, la gestión simplificada de caché no solo ayuda a reducir el esfuerzo manual, sino que también ayuda a liberar más tokens, ya que los tokens de lectura de caché no se cuentan para sus cuotas de tokens por minuto (TPM). Esto puede facilitar la creación de flujos de trabajo de múltiples turnos y asistentes de investigación, al tiempo que mejora tanto el rendimiento como la eficiencia de costos.La gestión simplificada de caché está disponible hoy en todas las regiones donde se ofrecen los modelos Anthropic Claude 3.5 Haiku, Claude 3.7 y Claude 4 en Amazon Bedrock. Para comenzar, revise la Guía del desarrollador de Amazon Bedrock y habilite el almacenamiento en caché en las invocaciones de su modelo.