VentureBeat на русском
Подписаться
Brex построила свою политику в отношении ИИ-агентов, наблюдая за тем, что агенты делают на самом деле, а не составляя правила заранее
Фреймворки для агентов, такие как OpenClaw, сталкиваются с проблемами при развертывании в масштабах предприятия из-за проблем безопасности, связанных с реальными учетными данными. Традиционные защитные механизмы оказались недостаточными для контроля действий агентов. Brex разработал CrabTrap, внутреннюю платформу, действующую как HTTP/HTTPS прокси для перехвата и анализа сетевого трафика. Этот прокси использует большую языковую модель в качестве судьи для одобрения или отклонения запросов агентов на основе правил политики. Генеральный директор Brex выступает за передачу управления агентами в централизованную плоскость сетевого управления, а не за полагание исключительно на разрешения на уровне SDK или защитные механизмы модели. Существующие решения боролись с компромиссом между возможностями агента и безопасностью, часто обходясь или будучи чрезмерно ограничительными. CrabTrap работает на транспортном уровне, что делает его независимым от фреймворков, языков и API, не требуя оберток SDK. Платформа изначально сочетает статические правила с судьей LLM для менее распространенных запросов, активируя судью для небольшого процента трафика. Brex самостоятельно разработал свои политики, наблюдая за реальным поведением агентов и совершенствуя их, что значительно повысило точность политик. Судья LLM CrabTrap был разработан для противодействия внедрению подсказок путем структурирования всего контента, контролируемого пользователем, в виде экранированных JSON-объектов. Платформа вселила уверенность в организации, позволив более широкое развертывание агентов и предоставив пользователям возможности управления агентами. CrabTrap также выявил "шум" агентов, что привело к настройке политик и оптимизации агентов, выступая как инструмент принуждения, так и инструмент обнаружения. Brex выпустил CrabTrap в виде открытого исходного кода, стремясь к вкладу сообщества для улучшения таких функций, как аутентификация и рабочие процессы эскалации. Ключевой вывод для других разработчиков заключается в том, чтобы проактивно устранять пробелы в инфраструктуре и решать проблемы самостоятельно, а не ждать отраслевых решений.