AI는 당신의 아키텍처를 대체하는 것이 아니라, 그 일부가 됩니다.이렇게 상상해 보세요. 당신의 팀이 방금 엔터프라이즈 애플리케이션에 대규모 언어 모델을 통합했습니다. 데모는 인상적이었습니다. 에이전트는 사용자 의도를 해석하고, 여러 API를 호출했으며, 일관성 있는 결과를 반환했습니다. 방 안의 모든 사람이 감탄했습니다.그러자 질문이 시작되었습니다. LLM이 요청을 잘못 해석하고 잘못된 API를 호출하면 어떻게 됩니까? 해당 프롬프트에 내장된 비즈니스 로직은 누가 소유합니까? 모델이 변경되면 통합이 중단됩니까? AI가 결정한 내용과 그 이유를 어떻게 감사할 수 있습니까?