Brexは、まずルールを作成するのではなく、エージェントが実... ノート
VentureBeat 日本語

Brexは、まずルールを作成するのではなく、エージェントが実際に行っていることを観察することによって、AIエージェントポリシーを構築しました。

OpenClawのようなエージェントフレームワークは、実際の認証情報に関するセキュリティ上の懸念から、エンタープライズ規模での展開に課題を抱えています。従来のガードレールは、エージェントのアクションを制御するには不十分であることが判明しました。Brexは、ネットワークトラフィックを傍受および検査するHTTP/HTTPSプロキシとして機能する社内プラットフォームであるCrabTrapを開発しました。このプロキシは、大規模言語モデルをジャッジとして使用し、ポリシーに基づいてエージェントのリクエストを承認または拒否します。BrexのCEOは、SDKレベルの権限やモデルのガードレールだけに依存するのではなく、エージェントガバナンスを中央集権的なネットワーク制御プレーンに移行することを提唱しています。既存のソリューションは、エージェントの能力と安全性とのトレードオフに苦労しており、しばしば回避されたり、過度に制限的になったりしていました。CrabTrapはトランスポートレイヤーで動作するため、SDKラッパーを必要とせず、フレームワーク、言語、APIに依存しません。プラットフォームは当初、静的ルールとLLMジャッジを組み合わせて、あまり一般的でないリクエストに対応し、トラフィックのごく一部でジャッジをアクティブ化します。Brexは、実際のエージェントの動作を観察し、それらを洗練させることでポリシーをブートストラップし、ポリシーの精度を大幅に向上させました。CrabTrapのLLMジャッジは、ユーザー制御のすべてのコンテンツをエスケープされたJSONオブジェクトとして構造化することにより、プロンプトインジェクションに耐えるように設計されました。このプラットフォームは組織的な信頼を醸成し、より広範なエージェント展開を可能にし、ユーザーにエージェント管理の権限を与えました。CrabTrapはまた、エージェントのノイズを明らかにし、ポリシーのチューニングとエージェントの最適化につながり、強制ツールと発見ツールの両方として機能しました。BrexはCrabTrapをオープンソースとしてリリースし、認証やエスカレーションワークフローなどの機能を強化するためのコミュニティからの貢献を目指しています。他のビルダーにとっての重要な教訓は、インフラストラクチャのギャップに積極的に対処し、業界のソリューションを待つのではなく、問題を引き受けることです。