回顾：本系列内容的定位本系列第一部分介绍了精确匹配缓存：对完整请求进行哈希，当新请求与旧请求完全一致时返回已存储的响应。该层速度快且安全，但仅在输入完全匹配时有效，这在模板化流量中很常见，而在开放对话中则较为罕见。本文介绍填补这一差距的层级：语义缓存。第三部分将探讨请求实际到达模型后发生的情况：自托管 KV 缓存复用和提供商前缀缓存，以及生产环境中的细节：监控指标、核算成本，并提供一份完整清单。