Brex는 규칙을 먼저 작성하는 대신, 에이전트가 실제... 노트

Brex는 규칙을 먼저 작성하는 대신, 에이전트가 실제로 하는 일을 관찰하여 AI 에이전트 정책을 구축했습니다.

OpenClaw와 같은 에이전트 프레임워크는 실제 자격 증명과 관련된 보안 문제로 인해 엔터프라이즈 규모 배포에 어려움을 겪고 있습니다. 기존의 가드레일은 에이전트의 행동을 제어하는 데 불충분했습니다. Brex는 네트워크 트래픽을 가로채고 검사하는 HTTP/HTTPS 프록시 역할을 하는 내부 플랫폼인 CrabTrap을 개발했습니다. 이 프록시는 대규모 언어 모델을 판사로 사용하여 정책 규칙에 따라 에이전트 요청을 승인하거나 거부합니다. Brex의 CEO는 에이전트 거버넌스를 SDK 수준 권한이나 모델 가드레일에만 의존하는 대신 중앙 집중식 네트워크 제어 평면으로 전환할 것을 옹호합니다. 기존 솔루션은 에이전트 기능과 안전성 간의 균형을 맞추는 데 어려움을 겪었으며, 종종 우회되거나 지나치게 제한적이었습니다. CrabTrap은 전송 계층에서 작동하므로 SDK 래퍼가 필요 없이 프레임워크, 언어 및 API에 구애받지 않습니다. 이 플랫폼은 처음에 일반적이지 않은 요청에 대해 정적 규칙과 LLM 판사를 결합하여 트래픽의 작은 비율에 대해 판사를 활성화합니다. Brex는 실제 에이전트 행동을 관찰하고 이를 개선하여 정책 정확도를 크게 향상시킴으로써 정책을 부트스트랩했습니다. CrabTrap의 LLM 판사는 사용자 제어 콘텐츠를 모두 이스케이프된 JSON 객체로 구조화하여 프롬프트 주입에 저항하도록 설계되었습니다. 이 플랫폼은 조직의 신뢰를 심어주어 더 광범위한 에이전트 배포를 가능하게 하고 사용자에게 에이전트 관리 기능을 제공했습니다. CrabTrap은 또한 에이전트 노이즈를 드러내 정책 조정 및 에이전트 최적화를 유도했으며, 시행 및 검색 도구 역할을 모두 수행했습니다. Brex는 CrabTrap을 오픈 소스로 출시하여 인증 및 에스컬레이션 워크플로와 같은 기능을 개선하기 위한 커뮤니티 기여를 목표로 합니다. 다른 빌더를 위한 핵심 내용은 인프라 격차를 사전에 해결하고 업계 솔루션을 기다리기보다는 문제를 직접 해결하는 것입니다.