엔터프라이즈 AI 팀은 자동화된 테스트에 대한 신뢰도가 하락하는 와중에도 에이전트에게 더 많은 자율성을 부여하고 있습니다. 상당수의 기업은 AI 에이전트가 내부 평가를 통과했음에도 불구하고 고객 대면 역할에서 실패한다고 보고하고 있습니다. 많은 조직은 사람의 검토 없이 프로덕션 배포를 허용하거나 곧 그렇게 할 계획입니다. 이는 에이전트의 자율성이 보증을 앞지르는 "평가 격차"를 만듭니다. 동적인 의사 결정 능력을 가진 에이전트에게는 전통적인 테스트 방법이 불충분합니다. 기업은 실제 결과와의 불일치, 편향, 설명 가능성 부족으로 인해 자동화된 평가를 신뢰하지 않습니다. 핵심 문제는 능력이 일관성이나 신뢰성과 동등하지 않다는 것입니다. 따라서 반복성이 주요 지표가 되어야 하며, 프로덕션 사고는 테스트로 피드백되어야 합니다. 자율성은 입증된 신뢰성과 실패의 결과에 따라 확장되어야 합니다. 위험이 낮은 작업은 더 넓은 자율성을 허용할 수 있지만, 위험이 높은 작업은 더 엄격한 임계값과 인간 에스컬레이션 경로를 요구합니다. 시장은 계속해서 더 큰 자율성을 선호하겠지만, 성공은 배포 속도보다 반복성과 회귀 테스트를 우선시하는 데 달려 있습니다.