华尔街正在辩论 AI 基础设施的建设。企业方已给出回应:86% 的企业表示其 GPU 利用率仅为 50% 或更低。
企业明知 AI 代理缺乏充分控制仍有意部署,目前正在对这些系统进行改造,并为五个控制层的供应商变更分配了预算。这五个控制层包括代理身份、输出评估、成本遥测、上下文管理和编排。企业已开始面临后果,多数企业经历了代理安全事件或险些发生的事件。许多企业对代理支出的控制具有反应性,仅在收到发票时才了解成本。一项重要发现是,86% 自行运行 GPU 的企业报告利用率低于 50%。此外,仅 44% 的企业严格追踪 AI 计算成本与收益,大多数仍依赖估算。许多已部署的“代理”实为基本的单提示聊天机器人,无法执行复杂的多步骤任务。这凸显了普遍存在的“代理洗白”趋势,即简单工具被错误标记为真正的代理。三分之二的企业允许 AI 代理基于自动化评估向生产环境推送变更,尽管仅有 5% 的企业完全信任这些系统。一半的企业已发布过在通过内部评估后导致面向客户故障的代理。高达 69% 的企业允许代理共享凭据,导致安全事件发生率显著上升。57% 的企业已将错误的代理回答归因于缺失或不一致的业务上下文,例如错误的指标或过时的定义。AI 代理的“可移植性”已成为优先事项,企业预期将采用混合编排控制平面。没有任何单一供应商在五个关键控制层中确立主导地位。企业主要默认使用现有云提供商和模型提供商提供的内置工具作为护栏和解决方案。未来的调查将追踪这些计划的预算分配是否带来代理安全、评估严谨性、GPU 利用率以及语义层实施的改善。