AIエージェントの前にファイアウォールを設置しました。それを... ノート

AIエージェントの前にファイアウォールを設置しました。それを構築するきっかけとなったニアミスはこちらです。

著者は、AIエージェントが監視なしで機械速度で破壊的なアクションを実行できるため、Bastion Gatewayを開発しました。エージェントがデータベーステーブルを削除しようとしたニアミスインシデントが、この脆弱性を浮き彫りにしました。既存のエージェントインフラストラクチャには、IDとガバナンスのレイヤーが欠けており、重大なギャップが生じていました。Bastion Gatewayは、デフォルトで拒否するセキュリティ体制を実装することで、このギャップを埋めます。許可されたツールとエンドポイントの許可リストを通じて、エージェントのアクセスを綿密に制御します。また、ゲートウェイは、機密情報や個人情報(PII)などの機密情報をアウトバウンドデータから削除します。破壊的なアクションは、リスクゲートメカニズムを介した人間の承認のために一時停止されます。重要なことに、Bastion Gatewayは、すべてのアクションの署名済みで不変の監査ログを生成します。このログは、監査担当者や関係者にとって検証可能なコンプライアンス証拠として機能します。ゲートウェイは、アウトバウンドテレメトリや外部依存関係なしで、自己完結型になるように設計されています。エージェントのトラフィックをローカルアドレスにリダイレクトするだけで、簡単に展開および統合できます。セルフホスト型のオープンソースバージョンが利用可能であり、将来的にホスト型バージョンが計画されています。