AI 编程代理正在烧穿预算——Replit、Kilo Cod... 笔记

AI 编程代理正在烧穿预算——Replit、Kilo Code 和 Symbotic 解释他们是如何应对的

在 Kilo Code,工程师如今仅将 1% 的时间用于编码,其余工作由智能体完成,这引发了开发团队关于系统安全、模型清理、多模型架构以及高昂 Token 账单合理性的新问题。技术负责人视此为智能体 AI 融入企业工作流的自然演进。虽然智能体在绿地开发中表现卓越,但在褐地任务及制定强有力的产品决策方面,人类参与至关重要。Replit 利用智能体审查拉取请求,分配风险评分并自动合并低风险请求,强调“人在回路”的方法。该公司在云端虚拟机中部署了一队安全智能体,用于端到端任务执行,曾成功解决困扰人类工程师的复杂缺陷。多模型支持正变得不可或缺,Kilo Code 提供超过 500 种模型,使企业能够根据成本和项目阶段切换模型。Replit 也代表用户做出模型选择,以优化成本与能力。控制失控的 AI 成本是一个关注点,各公司采取了诸如为规划使用昂贵模型、为执行使用廉价模型等策略。Symbotic 为员工设定月度成本上限,并利用工具跟踪使用情况并调整层级。Replit 发现大量 AI 支出发生在工程部门之外,凸显了可见性、模型路由和合理默认设置的重要性,因为大多数任务并不需要前沿模型。归根结底,焦点在于投资回报率(ROI),通过每次拉取请求的成本等指标衡量价值,而不仅仅是关注支出。