Agents 以毫秒级速度思考,而遗留基础设施则无法做到。LinkedIn、Walmart 和 Zendesk 在 VB Transform 2026 大会上分享了如何弥合这一差距。
AI 代理的减速并非源于模型本身,而是由于遗留基础设施。LinkedIn、Walmart 和 Zendesk 的负责人在 VB Transform 2026 上分享了这一结论。他们的经验表明,为人类工作流构建的企业级基础设施难以应对 AI 代理的速度。在 LinkedIn,Kubernetes 的供应速度过慢,因此转向了预置容器。另一个问题涉及 LLM 评估其他 LLM,导致产生幻觉。LinkedIn 通过脚本化大部分工作流,并仅让 LLM 负责推理来解决这一问题。Walmart 面临内部对代理需求激增导致的瓶颈,引发了重复建设。其解决方案是建立治理机制,以高效管理和部署代理。Zendesk 则遇到了海量客户对话数据的挑战,必须投资构建稳健的数据管道。这三家公司均强调,在可能的情况下应自主掌控 AI 基础设施,仅对外部提供商依赖以处理前沿专业工作。LinkedIn 开发了 AI 网关和模型无关的记忆子系统。Walmart 创建了内部网关,以在不同工作流类型中保持对供应商的无关性。他们的建议包括:尽早投资评估系统,从一开始就自主掌控代理框架,并构建支持模型与上下文无关的基础设施。这种方法确保了灵活性,使公司能够适应未来的 AI 进展。归根结底,重点应在于调整基础设施,以有效容纳 AI 代理的能力。