VentureBeat 研究:企业 AI 代理治理尚未跟上的领域
企业明知 AI 代理缺乏充分的管理控制仍将其部署。这些组织目前正在 retrofit(改造升级)以追赶进度,并计划在未来一年内预算用于新供应商或新增功能。VentureBeat 研究确定了五个关键控制层:身份、评估、成本遥测、上下文和编排。许多部署的"代理”实际上只是简单的聊天机器人,并非需要这些控制的真正多步代理。三分之二的企业允许代理自动进行生产变更,尽管仅有 5% 的企业完全信任其评估结果。允许代理共享凭证的企业面临更多的安全事件。大多数自行运行 GPU 的企业报告利用率较低,且难以有效追踪 AI 计算成本。自信但错误的 AI 回答往往源于未受治理或不一致的业务上下文。AI 代理市场缺乏根深蒂固的 incumbent(在位者),预计编排领域将发生重大的供应商更替。