샌드박스가 새어나갈 때: LLM 작업 공간 전반의 컨텍스트 오염

저자는 연구를 위한 샌드박스와 완성된 작업을 위한 큐레이션된 포트폴리오라는 별도의 작업 공간을 유지하며, 정보의 일방향 흐름을 목표로 했습니다. 초기 설정은 공간 간의 정보 유출로 인해 실패했으며, 중복, 잘못된 파일 경로, 행동의 불일치로 이어졌습니다. 세 가지 유형의 오염이 발생했습니다: 경로 문제, 행동 변화, 승진 관련 문제. 저자는 처음에 문서, 체크리스트, 명명 규칙을 경계로 삼았지만, 이는 인적 오류로 인해 충분하지 않았습니다. 그는 올바른 디렉토리를 확인하는 비콘 파일, 사전 점검, 포인터 기반의 출처 추적과 같은 기술적 솔루션으로 전환했습니다. 핵심적인 교훈은 개념적 이해보다 경계의 강제 적용이 더 중요하다는 것이며, 이는 LLM 워크플로우에서 스파게티 코드를 방지합니다. 서로 다른 설정이 AI 출력의 변동을 초래하는 구성 변화는 특히 감지하기 어렵습니다. 반복적인 오염 문제는 설계 결함이 아닌 강제 적용의 부족을 나타냅니다. 핵심 규칙은 모든 작업 공간 경계는 무결성을 유지하기 위해 해당 강제 적용 메커니즘을 필요로 하며, 당신의 주의력은 실패할 것이라는 것입니다.