Ту половину службы безопасност... Заметка

Ту половину службы безопасности агентов, которой ты не управляешь

Управление ИИ-агентами сталкивается с фундаментальной асимметрией: в то время как серверы MCP предоставляют структурированные журналы, "навыки", лежащие в основе рассуждений агентов, остаются криминалистическими "черными ящиками". Поскольку высокорисковые возможности, такие как произвольное выполнение кода и изменение состояния, становятся распространенными почти в 60% корпоративных внедрений, традиционные модели, такие как "Правило двух", не могут предотвратить автономное разрушение. Для противодействия этому Noma Security предлагает фреймворк No Excessive CAP, сосредоточенный на трех контролируемых рычагах обороны: возможностях, автономии и разрешениях.
CdXz5zHNQW_i5ki6sAVhk.webp