あなたが管理していないエージェントの警備の半分 ノート

あなたが管理していないエージェントの警備の半分

AIエージェントのガバナンスは根本的な非対称性に直面しています。MCPサーバーは構造化されたログを提供しますが、エージェントの推論を駆動する「スキル」はフォレンジック上のブラックボックスのままです。エンタープライズ展開のほぼ60%で任意コード実行や状態変更などの高リスク機能が普及するにつれて、「Rule of Two」のような従来のモデルは自律的な破壊を防ぐことができなくなっています。これに対抗するため、Noma Securityは、防御の3つの制御可能なレバーである「Capabilities」、「Autonomy」、「Permissions」に焦点を当てたNo Excessive CAPフレームワークを提案します。
CdXz5zHNQW_i5ki6sAVhk.webp