要約：これはどこに位置するかこのシリーズのパート1では、完全一致キャッシングについて説明しました。これは、リクエスト全体をハッシュ化し、新しいリクエストが古いリクエストと完全に一致した場合に保存された応答を返すものです。このレイヤーは高速で安全ですが、入力が完全に一致する場合にのみ役立ちます。これはテンプレート化されたトラフィックでは一般的ですが、オープンな会話ではまれです。この記事では、そのギャップを埋めるレイヤーであるセマンティックキャッシングについて説明します。パート3では、リクエストが実際にモデルに到達した後の処理について説明します。セルフホストされたKVキャッシュの再利用とプロバイダープレフィックスキャッシング、さらに本番環境の詳細：メトリクスの監視、コストの算出、および完全なチェックリストです。