シスコの調査によると、攻撃者はマルチターン会話においてAIモデルを最大88.3%の時間で突破できることが明らかになり、シングルターンのレッドチーミングの取り組みを大幅に上回っています。この発見は、調査対象企業の半数以上がAIセキュリティインシデントまたはニアミスを経験していることからもわかるように、現在のエンタープライズAIセキュリティにおける重大なギャップを浮き彫りにしています。多くの組織では、プロバイダーネイティブの制御に主に依存しており、AIエージェントの堅牢なID管理と分離が依然として不足しています。主要なセキュリティベンダーは、このエンタープライズの欠陥を認識し、エージェントのIDと分離における能力を強化するために、企業買収を積極的に行っています。AI脅威インテリジェンスのリーダーであるエイミー・チャンは、モデルがさまざまな攻撃に対してどのように脆弱であるかを理解することが、障害点特定のために不可欠であると強調しました。マルチターンの攻撃は、人間がAIと対話する方法を現実的に模倣し、スナップショットテストで見逃された有害な出力を明らかにします。シスコは、攻撃を開発および実行するための自己評価可能なエージェンティックフレームワークを提唱しており、基本的かつ基本的なセキュリティ原則が最も効果的な防御策であり続けていることを発見しました。BoxのCISOであるヘザー・セイランは、マルチターン敵対的シミュレーションの必要性を繰り返し述べ、たとえ強い信頼があっても、単一のエージェントのミスが蓄積された信頼を消し去る可能性があると指摘しました。Boxは、リスクを封じ込めるために、厳格な権限付与、一時的なサンドボックス、実行時制御を備えたレイヤードセキュリティを採用しています。IntuitのAIおよびML担当VPであるラジェシュ・パレクは、AIエージェントのセキュリティとリスク管理を一元化し、厳密にスコープされた監査可能なタスク権限を提供するGenOSプラットフォームについて説明しました。セイランは、エージェントが脆弱性を特定および修正するのに熟達するにつれて、従来の人間によるコードレビューは終焉を迎えると予測していますが、これはまだ将来の目標です。セイランとパレクの両者は、広範な過剰アクセスを防ぐために、AIエージェントの最小権限アクセスが重要であることを強調しました。AIエージェントの能力とアクセスが増加するにつれて、攻撃対象領域が拡大し、一般的な脆弱性パターンの継続的なテストと自動化が必要になります。AIインタラクションにおける真の意図と確率を検出することの複雑さは、依然として業界にとって重大な課題です。シスコの調査によると、モデルは現在、意図を確実に導き出すのに苦労しており、決定論的な制御と行動プロキシが不可欠になっています。最終的に、エンタープライズは、本番環境での重大な障害を回避するために、攻撃者の方法論を模倣して、完全な会話全体でAIエージェントを継続的にテストする必要があります。