大規模言語モデルは通常、一度に1つのトークンを生成します。この自己回帰的なアプローチは、高い品質と指示への追従性を実現しますが、GPUが並列計算を行うよりもメモリから重みを移動するのに多くの時間を費やすことが多いため、ローカルユーザーにとっては非効率的になる可能性があります。Google DeepMindのDiffusionGemmaは異なるアプローチを採用し、トークンのブロックを生成・洗練させます。