Anthropic подробно описала архитектуры безопасности, которые она использует для Claude во всех своих продуктах. Компания утверждает, что безопасность агента зависит от установки детерминированных ограничений на файловую систему, сеть и среду выполнения агента, а не от подсказок разрешений или защитных механизмов. Наиболее примечательно, что она рассматривает сбои на границах доверия и по разрешенным исходящим путям, которые привели к пересмотру этих конструкций компанией Anthropic. Автор: Эран Стиллер.