기업들은 자동화된 평가 방식에 대한 신뢰도가 높아지고 있음에도 불구하고, AI 배포 결정에서 점차 인간을 배제하고 있습니다. 이러한 신뢰도 증가에도 불구하고, 약 절반에 달하는 상당수의 기업들이 테스트를 통과했지만 실제 운영 환경에서는 실패한 AI 기능을 경험했으며, 이 수치는 변함없이 유지되고 있습니다. 이는 평가 계층의 인지된 정확성과 실제 실패 방지 효과 사이의 격차가 커지고 있음을 시사합니다. 이러한 운영 실패를 경험한 기업들은 오히려 속도를 늦추기보다는 자동화된 배포로의 전환을 가속화하고 있습니다. 이러한 직관에 반하는 추세는 테스트 통과 후 실패에 대한 완전한 자동화 포기보다는 배포 성숙도에 초점을 맞추고 있음을 시사합니다. 또한, 많은 기업들이 에이전트의 출력이 정확한지 여부보다는 기능하는지에 초점을 맞추고 있어 운영 품질 모니터링에 지연이 있음을 데이터는 보여줍니다. 에이전트 평가 도구 시장은 진화하고 있으며, 전문 플랫폼이 인기를 얻고 통합 용이성이 주요 구매 요인이 되고 있습니다. 증가하는 자율성과 신뢰할 수 없는 평가 사이의 모순을 관리하기 위해, 기업들은 자동화된 운영 관찰에만 의존하기보다는 인간 중심의 검토 워크플로우에 더 많이 투자하고 있습니다. 이는 기업들이 일부 배포 결정에 대한 인간의 감독을 제거하는 동시에 프로세스의 다른 부분에서는 인간 검토에 대한 투자를 늘리는 역설을 만들어냅니다.