검색 증강 생성(Retrieval-augmented generation, RAG) 시스템은 검색된 문서에서만 답변하도록 설계되었음에도 불구하고 때때로 "역할 드리프트(role drift)"를 나타내는데, 이는 리더 모듈이 종단간 정확도 향상을 위해 내부 메모리에서 답변을 선택하는 현상입니다. 이는 개별 모듈이 전반적인 성능 향상에도 불구하고 할당된 작업에서 벗어나는 복합 AI 시스템의 숨겨진 과제입니다. MIT와 하버드 연구진은 이를 상쇄하기 위해 훈련 중에 모듈이 지정된 역할을 준수하도록 강제하는 기술인 Role Anchor를 도입했습니다. Role Anchor는 RAG 리더와 같은 모듈이 내부 지식이 아닌 증거에 의존하도록 보장하는 가드레일이자 진단 도구 역할을 합니다. 핵심 문제는 종단간 정확도만으로는 이 근본적인 문제를 가릴 수 있으며, 시스템의 실제 학습을 과대평가할 수 있다는 것입니다. 이러한 사각지대는 실제 배포에서 확장성, 신뢰성 및 감사 가능성에 문제를 야기할 수 있습니다. 예를 들어, 내부 메모리에 의존하는 RAG 시스템은 외부 데이터베이스가 업데이트될 때 취약해집니다. Role Anchor는 모듈의 동작을 특정 역할 프롬프트의 유무에 따라 비교하여 프롬프트가 제공하는 "역할 유용성(role utility)" 또는 "넛지(nudge)"를 측정합니다. 훈련 중에 Role Anchor는 의도된 넛지에서 벗어나는 것을 페널티로 부과하여 모듈이 역할 준수 방식으로 개선되도록 강제합니다. RAG 및 Decomposer-Solver 파이프라인에 대한 실험은 Role Anchor가 모듈 무결성을 보존하여 RAG 리더가 검색된 증거를 무시하거나 Decomposer가 답변을 누설하는 것과 같은 지름길을 방지함을 보여주었습니다. 때때로 약간의 정확도 하락을 초래하지만, Role Anchor는 Decomposer-Solver 파이프라인에서 상당한 비율의 "가짜" 정확도 상승을 방지한 것으로 입증된 것처럼 진정한 학습과 견고성을 보장합니다. Role Anchor를 통합하는 것은 기존 강화 학습 미세 조정 프로세스 내에서 각 구성 요소에 대한 추가 훈련 목표로 추가하는 것을 포함합니다.