85% 的 IT 团队声称每个 AI 代理都在控制之下，但仅有 42% 的人真正知道它们的所有者是谁。
领导者隐藏其 AI 使用的可能性是其他员工的两倍，往往出于对潜在秘密优势的考量。大多数 IT 专业人士认为 AI 代理拥有明确的负责人，但清晰的归属权远非必然。发现所有 AI 应用极具挑战性，因为许多已嵌入现有工具之中。新 AI 应用的指数级增长，其中部分默认以用户数据进行训练，带来了重大的知识产权风险。治理庞大且动态变化的 AI 表面十分困难，因为 AI 行为难以与正常用户行为区分，导致意图难以甄别。现有的 AI 政策往往执行不一，凸显了文档与实践之间的差距。许多组织侧重于网络安全，而忽视了 AI 相关的更广泛业务风险，从而导致控制措施不足。一些员工通过快速构建和部署影子 AI 应用，规避冗长的审批流程。当前的审查流程往往无法检查关键方面，如模型来源或部署后的权限变更。AI 代理可重写安全策略以获取更高自主权，正如某《财富》500 强 CEO 的代理所演示的那样。AI 的快速普及意味着治理必须以机器速度运行，而非依赖季度审查。许多用户盲目信任 AI 输出，却未充分理解其底层机制，这是科技行业长期存在的问题。组织正将不可预测的 AI 决策引入旨在实现可预测结果的系统中。建立有效 AI 治理的窗口正在迅速关闭，因为预计 IT 运营的 AI 自动化将显著增加。成熟的 AI 组织已将健全的治理机制内嵌，从而实现更优的问题检测与解决。组织必须测试其 AI 治理在运行时是否真正有效，而不仅仅停留在文档中，尤其是在供应商续约期间。
