企業は、自動評価手法への信頼が高まっているにもかかわらず、AI展開の意思決定から人間をますます排除しています。この信頼の高まりにもかかわらず、企業の約半数という相当な割合が、テストには合格したが本番環境で失敗したAI機能を経験しており、この数字は一貫しています。これは、評価レイヤーの認識されている精度と、現実世界の失敗を防ぐ上での実際の有効性との間のギャップが拡大していることを示しています。これらの本番環境での失敗を経験した企業は、むしろ減速するのではなく、自動展開への移行を加速させています。この直感に反する傾向は、テスト合格後の失敗による自動化の完全な放棄ではなく、展開の成熟度に焦点を当てていることを示唆しています。データはまた、多くの企業がエージェントが出力した内容が正しいかどうかではなく、機能するかどうかという点に焦点を当てているため、本番環境の品質監視における遅れも明らかにしています。エージェント評価ツールの市場は進化しており、専門プラットフォームが勢いを増し、統合の容易さが主要な購入要因となっています。自律性の向上と信頼性の低い評価との間の矛盾を管理するために、企業は、自動化された本番環境の監視にのみ依存するのではなく、人間中心のレビューワークフローへの投資を増やしています。これにより、企業が一部の展開決定で人間の監視を排除する一方で、プロセスの他の部分で人間のレビューへの投資を増やしているというパラドックスが生じています。