VentureBeat на русском
Подписаться
Brex предполагает, что ее ИИ-агенты могут делать что угодно — поэтому она следит за сетью, а не за кодом
Генеральный директор Brex Педро Франчески предложил план безопасного развертывания ИИ-агентов в производственных средах предприятий. Он выступает за концептуальный сдвиг от "агентов" к "виртуальным сотрудникам", которые могут сотрудничать с людьми. Традиционные модели безопасности потерпели неудачу у Brex при попытке автоматизировать внутренние функции с помощью их ИИ-агента OpenClaw. Для решения этой проблемы Brex разработал новый уровень сетевой безопасности под названием CrabTrap. CrabTrap работает исходя из предположения, что ИИ-агенты могут делать все, и отслеживает исходящий сетевой трафик. Он использует LLM для оценки соответствия сетевых запросов утвержденной политике агента. Brex реализовал разделенную систему для управления задержками, направляя действия с низким риском через статические правила, а действия с высоким риском — к LLM-судье. Предварительное обучение LLM обеспечивает ей внутреннее семантическое понимание закономерностей сетевого трафика, что делает ее эффективной в определении соответствия политике. Когда агент пытается выполнить действие, выходящее за рамки его политики, CrabTrap инициирует рабочий процесс с участием человека, уведомляя менеджера для проверки политики и возможной корректировки. Brex создал CrabTrap внутри компании из-за отсутствия зрелых коммерческих решений в области кибербезопасности для ИИ-агентов. Эти инвестиции позволили Brex безопасно развернуть агентов раньше конкурентов, подчеркнув необходимость для компаний развивать возможности для работы в мире, управляемом агентами.