제품에서 발생하는 대부분의 AI 실패는 모델이 약해서가 아닙니다. 모델이 어둠 속에서 추측하기 때문에 발생합니다. 대규모 언어 모델은 코드를 작성하고, 회의 내용을 요약하고, 이메일을 초안 작성하고, 보고서를 생성하고, 고객 질문에 답변할 수 있습니다. 하지만 어떤 고객, 어떤 계약, 어떤 정책, 어떤 티켓, 어떤 진실의 버전, 또는 어떤 권한 경계가 적용되는지 모를 때에도 여전히 자신감 있는 답변을 생성할 것입니다.