新阿里巴巴 AI 框架跳过加载每个工具,将代理 token 使用量降低 99%
企业级 AI 代理在从大型技能库中将子任务路由到正确工具方面面临困难。SkillWeaver 是一个新框架,通过构建执行图并为每个任务节点选择适当的技能来解决这一问题。它引入了技能感知分解(Skill-Aware Decomposition, SAD),这是一个反馈循环,可迭代地优化工具选择。这种组合式方法与一次性工具路由框架不同。SkillWeaver 适用于编排多步骤业务操作的生态系统中的 AI 代理。实验表明,SkillWeaver 显著提高了准确率,并将 token 消耗减少了超过 99%。任务分解的粒度被确定为准确工具检索的主要瓶颈。当前的工具使用框架在处理需要多种技能的复杂、组合式现实世界查询时往往失效。SkillWeaver 的三个阶段——分解(Decompose)、检索(Retrieve)和组合(Compose)——将查询分解、识别候选工具并规划执行。SAD 通过将检索到的技能反馈给大语言模型(LLM),以改善词汇和粒度对齐,从而增强分解过程。这种迭代方法,尤其是结合 SAD,显著提高了分解准确率,特别是在处理复杂任务时。SkillWeaver 的检索与路由策略相比一次性暴露整个工具库,也大幅降低了 token 使用量。开发人员可以使用现有库实现 SAD 和检索组件,但在生产环境中需要单独构建错误恢复机制。