企业人工智能行业在试点 AI 代理与将其部署到生产环境之间存在显著差距。亚马逊的 Bryan Silverthorn 将这一差距归因于评估 AI 代理可靠性的方法存在缺陷。他提出将可靠性分解为四个维度：一致性、鲁棒性、可预测性和安全性。当前的评估往往无法捕捉现实世界中的失败案例，例如某代理因细微变化而间歇性地读取错误的序列号。因此，测量的严谨性必须与应用的风险等级相匹配。亚马逊的 AGI 实验室将 AI 代理视为“实习生”，承认其能力强大但也存在出错的可能。这需要相应的管理技能，重点在于风险缓解、备份以及撤销能力。他们接受偶尔的错误，以换取更快的研究速度。Silverthorn 进一步澄清，AI 完全自主的自我改进仍是遥远的目标。AI 代理将集成多种工具以支持复杂的工作流。企业若要超越试点阶段，关键在于优先追求持续、正确的性能，而非单一令人印象深刻的成就。归根结底，AI 代理的成功部署取决于有效的管理，而不仅仅是代理本身的复杂性。