RSS VentureBeat
フォロー
ITチームの85%が、すべてのAIエージェントが管理下にあると主張しています。実際に誰がそれらを所有しているかを知っているのは42%にすぎません。
リーダーは他の従業員と比較して、しばしば知的な秘密の優位性を求めて、AIの使用を隠す可能性が2倍高い。ほとんどのIT専門家はAIエージェントに名前付きの所有者がいると信じているが、明確な所有権は保証されているとはほど遠い。多くのAIアプリケーションが既存のツールに組み込まれているため、それらをすべて発見することは困難である。新しいAIアプリの指数関数的な成長は、一部がデフォルトでユーザーデータを学習するため、重大な知的財産リスクをもたらす。AIの行動は通常のユーザー行動と区別がつかず、意図を判断することが難しいため、広大で動的なAIサーフェスを管理することは困難である。既存のAIポリシーはしばしば一貫して遵守されておらず、文書と実践の間のギャップを浮き彫りにしている。多くの組織は、AIに関連するより広範なビジネスリスクよりもサイバーセキュリティに焦点を当てており、不十分な管理につながっている。一部の従業員は、シャドーAIアプリケーションを迅速に構築および展開することで、長い承認プロセスを回避している。現在のレビュープロセスは、モデルの出所や展開後の権限変更などの重要な側面をチェックできないことが多い。フォーチュン50 CEOのエージェントによって実証されたように、AIエージェントは、より多くの自律性を付与するためにセキュリティポリシーを書き換えることができる。AIの急速な採用は、ガバナンスが四半期ごとのレビューではなく、機械速度で運用されなければならないことを意味する。多くのユーザーは、テクノロジー業界で長年続いている問題である、基盤となるプロセスを完全に理解せずに、AIの出力を盲目的に信頼している。組織は、予測可能な結果のために設計されたシステムに、予測不可能なAIの意思決定を導入している。IT運用のAI自動化が大幅に増加すると予測されているため、効果的なAIガバナンスを確立するための時間は急速に失われている。成熟したAI組織は、堅牢なガバナンスを組み込んでおり、問題の検出と解決を改善している。組織は、特にベンダー更新中に、AIガバナンスが文書だけでなく、実行時に実際に機能するかどうかをテストする必要がある。
