Amazon Bedrock a mis à jour la mise en cache des invites pour les modèles Claude d'Anthropic afin d'améliorer la facilité d'utilisation pour les modèles Claude 3.5 Haiku, Claude 3.7 et Claude 4.Auparavant, les développeurs devaient gérer manuellement les points de cache et suivre quels segments mis en cache devaient être réutilisés. Avec la gestion simplifiée du cache, il vous suffit de définir un point d'arrêt de cache à la fin de votre requête. Le système lit automatiquement à partir du préfixe précédemment mis en cache le plus long, ce qui élimine la nécessité de spécifier manuellement les segments à réutiliser et réduit les efforts nécessaires pour gérer la logique de cache.En identifiant et en appliquant automatiquement le contenu mis en cache approprié, la gestion simplifiée du cache permet non seulement de réduire les efforts manuels, mais aussi de libérer plus de jetons, car les jetons lus depuis le cache ne sont pas comptabilisés dans vos quotas de jetons par minute (TPM). Cela peut faciliter la création de flux de travail à plusieurs tours et d'assistants de recherche, tout en améliorant à la fois les performances et la rentabilité.La gestion simplifiée du cache est disponible dès aujourd'hui dans toutes les régions où les modèles Claude 3.5 Haiku, Claude 3.7 et Claude 4 d'Anthropic sont proposés sur Amazon Bedrock. Pour commencer, consultez le guide du développeur Amazon Bedrock et activez la mise en cache dans vos invocations de modèle.