エージェントセキュリティの分割:ツールレイヤー対サンドボック... ノート

エージェントセキュリティの分割:ツールレイヤー対サンドボックスレイヤー

エンタープライズが「エージェントプラットフォームは安全ですか?」と尋ねる場合、その質問はほぼ常に2つの異なるアーキテクチャ上の懸念事項の束です。ツールレイヤー:エージェントは承認されたツールのみを呼び出すことができますか?ツールの入力と出力は検証されますか?認証情報はLLMのコンテキストから除外されますか?呼び出しは監査されますか? サンドボックスレイヤー:ツールがコードを実行したり、ウェブを閲覧したり、シェルアウトしたりする場合、その実行はホストから分離されていますか?内部ネットワークに到達できますか?作業ディレクトリの外に書き込むことができますか?これらは隣接しているように見えますが、失敗の仕方が異なります。ツールレイヤーは、エージェントがアクセスすべきではないものを呼び出した場合に失敗します。これはツールレジストリを強化することで修正できます。サンドボックスレイヤーは、承認されたツールが実行中に侵害された場合(例:悪意のあるページを介してエクスプロイトされたChromiumのゼロデイ)に失敗します。これは、実行環境が到達できるものを減らすことによってのみ修正できます。