语言模型评估中的交叉熵损失

交叉熵损失是评估语言模型的基石指标之一，既是训练目标，也是评估指标。在这份综合指南中，我们将探讨交叉熵损失是什么，它在大型语言模型（LLM）中如何工作，以及为什么它对于理解语言模型如此重要。