Кэширование промптов в Amazon Bedrock может сократить расходы на входные токены до 90%, когда вы многократно отправляете один и тот же контекст базовым моделям. В этой статье рассматриваются шесть практических сценариев кэширования промптов с использованием API Converse: содержимое сообщений, системный промпт, определение инструмента, смешанный TTL, изоляция арендаторов и интеграция LangChain.