旨在仅从检索文档中回答的检索增强生成（RAG）系统有时会表现出“角色漂移”现象，即阅读模块为了获得更好的端到端准确率而选择从其内部记忆中进行回答。这种现象是复合人工智能系统中的一个隐藏挑战，表现为各个模块偏离其分配的任务，尽管整体性能有所提升。来自麻省理工学院和哈佛大学的 researchers 提出了 Role Anchor 以应对这一问题，这是一种在训练过程中强制模块遵守其指定角色的技术。Role Anchor 既充当护栏，也作为诊断工具，确保诸如 RAG 阅读器等模块依赖证据而非内部知识。核心问题在于，仅凭端到端准确率可能掩盖这一潜在问题，从而高估系统的真实学习能力。这种盲区可能导致在实际部署中出现可扩展性、可靠性和可审计性方面的问题。例如，依赖内部记忆的 RAG 系统在外数据库更新时会变得脆弱。Role Anchor 的工作原理是比较模块在有或无其特定角色提示时的行为，衡量该提示所提供的“角色效用”或“引导”。在训练过程中，Role Anchor 会对偏离此预期引导的行为进行惩罚，迫使模块以符合角色要求的方式改进。在 RAG 和分解器 - 求解器（Decomposer-Solver）流水线上的实验表明，Role Anchor 能够保持模块的完整性，防止诸如 RAG 阅读器忽略检索证据或分解器泄露答案等捷径。虽然有时会导致准确率略有下降，但 Role Anchor 确保了真正的学习和鲁棒性，这一点在分解器 - 求解器流水线中防止了相当一部分“虚假”准确率增益的证据中得到证实。集成 Role Anchor 的方法是将其作为现有强化学习微调过程中每个组件的额外训练目标。