NVIDIAのAIレッドチームは、2026年にエンタープライズAIエージェントの6ヶ月間の評価レビューを実施しました。レビューの結果、失敗したAIエージェントは、アクセス制御の欠如や任意のコードを実行する機能の欠如を含む4つの主な理由で失敗しました。エージェントには、アウトバウンドネットワーキングや分離に関する制限もなく、平文のシークレットが利用可能でした。これらのAIエージェントの問題は本質的にアーキテクチャ的な性質であり、障害に対する防御を困難にしています。モデルのコントロールプレーンは、その統計的な性質から信頼できる防御メカニズムではありません。コントロールプレーンに依存する防御は、悪意のあるアクティビティを正当なものとして偽装することを含む3つの主な方法で回避できます。防御を回避する別の方法として、コマンドの正当性を確立するのに十分な履歴が蓄積されるまで、対話を徐々にエスカレートさせることが挙げられます。3番目の方法には、パッケージのインストールなど、正当な動作にコード実行を埋め込むことが含まれます。レビューの結果は、AIエージェントの障害を防ぐためのより堅牢なセキュリティ対策の必要性を強調しています。全体として、これらの脆弱性の発見は、AIエージェントの安全でセキュアな運用を確保するために、AIエージェントのアーキテクチャ上の欠陥に対処することの重要性を強調しています。