Brex 通过观察智能体实际的行为来构建其 AI 代理策略,而非先制定规则。
像 OpenClaw 这样的代理框架在企业级部署中面临安全挑战,主要源于对真实凭证的安全顾虑。传统的护栏机制在控制代理行为方面证明不足。Brex 开发了 CrabTrap,这是一个内部平台,充当 HTTP/HTTPS 代理以拦截和检查网络流量。该代理使用一个大语言模型作为裁判,依据策略规则批准或拒绝代理请求。Brex 首席执行官主张将代理治理从 SDK 级别的权限或模型护栏的依赖,转向集中式的网络控制平面。现有解决方案难以在代理能力与安全性之间取得平衡,往往被绕过或过于严格。CrabTrap 在传输层运行,使其对框架、语言和 API 无关,无需 SDK 包装器。该平台最初结合静态规则与 LLM 裁判处理较少见的请求,仅对少量流量激活裁判。Brex 通过观察真实代理行为来启动策略并加以优化,显著提升了策略准确性。CrabTrap 的 LLM 裁判通过将所有用户可控内容结构化地编码为转义的 JSON 对象,以抵御提示注入。该平台已建立组织信心,推动更广泛的代理部署,并赋予用户代理管理能力。CrabTrap 还揭示了代理噪声,促成了策略调优与代理优化,兼具执行与发现工具的功能。Brex 将 CrabTrap 开源,旨在通过社区贡献增强功能,如身份验证和升级工作流。对其他构建者的关键启示是:主动解决基础设施缺口,自主解决问题,而非等待行业解决方案。