控制差距:企业 AI 组织面临的是所有权问题,而非技术问题——而大多数组织仍靠人工进行治理。
AI 的采用速度已超过组织对其实施治理的能力。许多公司使用多个 AI 平台,且往往权责不清。AI 的雄心勃勃的扩张与实际对这些系统的可见性、所有权及成本管控之间存在显著差距。自主 AI 代理已引发财务和运营失败。绝大多数组织使用两个或更多 AI 平台,仅有少数将其整合为单一平台。许多组织对检测 AI 模型故障的信心较高,但这种信心往往依赖于人工审查而非自动化监控。缺乏单一问责主体是跨平台 AI 治理的最大障碍。影子 AI(即未经授权的 AI 流水线)是主要的控制失效,连同昂贵的“无限循环”代理账单。企业虽已拥抱 AI 的雄心,但尚未充分标准化控制机制。AI 倡议的快速增长缺乏足够的监督,从而导致潜在风险。