この章は4つのパートに分かれています。以下の通りです。 • 自己回帰生成 • プリフィルとデコード • 単純なKVキャッシュ • KVキャッシュのメモリ使用量 デコーダーのみのトランスフォーマーモデルは、前のトークンから次のトークンを予測します。