前沿模型仅通过延长思考过程,即可恢复高达 65% 其无法直接回忆的事实。
大型语言模型(LLMs)经常产生事实性错误的幻觉。开发者传统上通过假设模型存在知识缺失,并增大模型规模或数据量来解决这一问题。然而,新研究表明,LLMs 往往已经掌握了相关事实,只是在生成过程中无法成功回忆。前沿模型编码了大量事实,表明回忆能力是主要瓶颈。该研究提出了“知识画像”(knowledge profiling)方法,以区分已编码事实和已知事实。编码意味着模型在特定条件下能够复现事实,而已知则意味着模型能够以各种表述方式可靠地回答相关问题。编码失败需要预训练阶段的干预,而回忆失败则受益于后训练技术。一个事实可能直接被回忆、编码失败、出现回忆失败、通过思考后被回忆,或在无需编码的情况下被推断。对众多 LLM 的实验表明,前沿模型虽然编码了大部分事实,但在直接回忆方面存在困难。推理时的思考过程(如思维链 Chain-of-Thought)能显著辅助回忆,类似于人类的记忆检索。单纯扩大模型规模并不能解决回忆问题,甚至可能因增加无法访问的已编码事实而加剧该问题。回忆能力深受查询表述和上下文的影响,罕见事实或反向事实带来的回忆挑战更大。开发者应避免将所有事实错误一概视为检索问题,而应专注于提升回忆能力。选择性使用推理时的思考机制以及“生成 - 验证”(generate-then-verify)流程,可以增强事实准确性。测试超越标准准确率指标的语义访问能力,能够揭示模型的真实知识。查询改写和重试也是有效手段。尽管 WikiProfile 基准主要关注百科全书类事实,但其方法论可应用于特定领域数据,尽管在专业领域中编码问题可能更为突出。这项研究将焦点转向后训练和推理时的优化,使提升 AI 事实准确性变得更加可行。