Brex 假设其 AI 代理能够做任何事情——因此它监控的是... 笔记

Brex 假设其 AI 代理能够做任何事情——因此它监控的是网络,而非代码。

Brex 首席执行官 Pedro Franceschi 提出了一份在企业管理生产环境中安全部署 AI 代理的蓝图。他主张从“代理”向“虚拟员工”的概念转变,使这些虚拟员工能够与人类员工协作。传统的网络安全模型在 Brex 尝试使用其 AI 代理 OpenClaw 自动化内部职能时未能奏效。为此,Brex 开发了一种名为 CrabTrap 的新型网络层安全架构。CrabTrap 基于"AI 代理无所不能”的假设,监控出站网络流量,并利用大语言模型(LLM)判断网络请求是否符合代理的批准策略。为管理延迟,Brex 实施了一个分叉系统:将低风险操作通过静态规则路由,将高风险操作路由至 LLM 判断器。LLM 的预训练使其具备对网络流量模式的固有语义理解,从而有效识别策略合规性。当代理尝试执行超出其策略范围的操作时,CrabTrap 会启动“人在回路”工作流,通知经理进行策略审查及潜在调整。由于缺乏成熟的面向 AI 代理的商业网络安全解决方案,Brex 选择内部构建 CrabTrap。这一投资使 Brex 得以领先市场安全部署代理,并强调企业必须构建相应能力,以在代理驱动的世界中运营。