대부분의 팀이 프로덕션 환경에서 환각(hallucination)을 처음 접했을 때, 버그처럼 취급합니다. 특정 출력을 조사하고, 프롬프트나 컨텍스트 창으로 거슬러 올라가 무언가를 조정하고 넘어갑니다. 그들이 하지 않는 것은 더 중요한 질문을 던지는 것입니다. "이와 유사한 다른 출력들이 얼마나 많이 이미 사용자에게 도달했는데 아무도 눈치채지 못했을까?"그 질문은 불편합니다. 왜냐하면 대부분의 엔터프라이즈 AI 배포에서 솔직한 대답은 아무도 모른다는 것이기 때문입니다.