"프롬프트 캐싱이 실제로 에이전트에게 어떤 이점을 주는지 명확하게 보여줄 방법을 찾고 있었는데, 처음 발견한 것은 "최대 90% 절감"이라는 헤드라인만 읽으면 놓치기 쉬운 사실이었습니다. 새로 시작하는 대화의 첫 번째 턴을 캐싱하는 것은 캐싱하지 않는 것보다 더 많은 비용이 듭니다. 아직 읽을 캐시가 없기 때문에 콘텐츠에 대한 입력 비용과 캐시에 쓰기 위한 25%의 프리미엄을 지불하게 되며, 아무것도 돌려받지 못합니다. 절감 효과는 읽을 거리가 생기는 두 번째 턴부터 나타납니다.Deep Agents에서의 위치Deep Agents는 기본 미들웨어 스택에 langchain-anthropic의 AnthropicPromptCachingMiddleware를 포함합니다. 추측으로 캐싱할 대상을 결정하지 않습니다. 모든 모델 호출에서 정확히 두 가지를 태그합니다."