Эта глава разделена на четыре части; они следующие: • Авторегрессивная генерация • Предварительное заполнение и декодирование • Простой KV-кэш • Использование памяти KV-кэша Трансформерная модель только с декодером предсказывает следующий токен на основе предшествующих ему токенов.