57% 的企业曾目睹 AI 代理自信地给出错误答案。解决方案... 笔记

57% 的企业曾目睹 AI 代理自信地给出错误答案。解决方案是引入代理上下文层,但谁拥有这一层?

企业 AI 代理常因缺乏或不一致的业务上下文而提供自信但错误的回答,这一问题影响 57% 的组织。该问题的根源在于普遍依赖文档检索来获取上下文,往往优先考虑摄入的便捷性而非准确性。一种常见的解决方案是建立受管制的上下文层(governed context layer),即一个共享的业务数据含义模型,供代理一致引用。目前,75% 的企业尚未拥有此类层,尽管 58% 的企业正在积极构建或已实施该层。已遭遇此类“自信但错误”AI 失败的企业更倾向于采用这一修复方案,而未受影响的企业则表现出较低的紧迫感。主要的数据和 AI 平台供应商正在为这一上下文层开发多种架构方法,但尚未形成统一标准。分析师一致认为,代理需要超越更多 token 或更好模型的受管制、实时且低延迟的上下文。挑战在于整合用于检索、记忆和访问控制的异构工具,从而导致运营复杂性增加。对于企业而言,仅靠检索不足以弥合上下文差距,预算正转向语义上下文层。市场呈现碎片化特征,意味着在一段时间内,集成而非选择单一供应商将是必要的。采用这些上下文平台的决策正在今年发生,主要由已遭遇 AI 代理不准确问题的企业驱动。虽然代理已在投入使用,但其底层的上下文基础设施仍在建设中,相关解决方案的供应商也正在此时被选定。