エンタープライズAIチームは、自動テストへの信頼が低下しているにもかかわらず、エージェントにより多くの自律性を付与しています。多くの企業が、社内評価を通過したにもかかわらず、顧客対応の役割でAIエージェントが失敗していると報告しています。多くの組織が、人間のレビューなしで本番環境へのデプロイを許可しているか、または近いうちにそうする予定です。これにより、エージェントの自律性が保証を上回る「評価ギャップ」が生じています。動的な意思決定能力を持つエージェントにとって、従来のテスト方法は不十分です。企業は、実際の成果との整合性の低さ、バイアス、説明可能性の欠如により、自動評価を信頼していません。根本的な問題は、能力が必ずしも一貫性や信頼性を意味しないということです。したがって、再現性は主要な指標でなければならず、本番環境でのインシデントはテストにフィードバックされる必要があります。自律性は、実証された信頼性と失敗の結果に基づいて拡大されるべきです。低リスクのアクションはより広範な自律性を許容できますが、高リスクのアクションはより厳格な閾値と人間のエスカレーションパスを必要とします。市場は引き続きより大きな自律性を支持するでしょうが、成功はデプロイ速度よりも再現性と回帰テストを優先することにかかっています。