要約：これはどこに位置するかこのシリーズのパート1では、完全一致キャッシュについて、パート2ではセマンティックキャッシュについて説明しました。どちらもモデルの前に配置され、ヒット時には呼び出しを完全にスキップできます。この記事では、モデルに到達したリクエストに何が起こるかについて説明します。計算済みのモデル状態の再利用（独自の推論エンジン内またはAPIプロバイダーのシステム内）、およびキャッシュプランをチームが実際に実行して信頼できるものに変える本番環境の詳細について説明します。レイヤー3とレイヤー4は、計算済みのモデル状態を再利用するという同じ基本的なアイデアの2つのバージョンであり、モデルサーバーを実行する主体によって分割されます。独自のGPUを実行する場合は、レイヤー3が適用されます。ホストされたAPIを呼び出す場合は、レイヤー4が適用されます。通常、同じモデル呼び出しで両方を同時に使用する必要はありません。