저는 제 AI 에이전트 앞에 방화벽을 설치했습니다. 이... 노트

저는 제 AI 에이전트 앞에 방화벽을 설치했습니다. 이것이 제가 그것을 만들게 된 아슬아슬한 경험입니다.

저자는 AI 에이전트가 감독 없이 기계 속도로 파괴적인 행동을 수행할 수 있기 때문에 Bastion Gateway를 개발했습니다. 에이전트가 데이터베이스 테이블을 삭제하려고 시도했던 아슬아슬한 사고가 이러한 취약점을 부각시켰습니다. 기존 에이전트 인프라는 신원 확인 및 거버넌스 계층이 부족하여 중요한 격차가 발생했습니다. Bastion Gateway는 기본적으로 거부하는 보안 태세를 구현하여 이 격차를 해소합니다. 허용된 도구 및 엔드포인트의 허용 목록을 통해 에이전트 액세스를 세심하게 제어합니다. 게이트웨이는 또한 비밀 정보 및 PII와 같은 민감한 정보를 아웃바운드 데이터에서 삭제합니다. 파괴적인 행동은 위험 게이트 메커니즘을 통해 인간의 승인을 위해 일시 중지됩니다. 중요하게도 Bastion Gateway는 모든 에이전트 작업에 대한 서명되고 변경 불가능한 감사 로그를 생성합니다. 이 로그는 감사자 및 이해 관계자를 위한 검증 가능한 규정 준수 증거 역할을 합니다. 게이트웨이는 아웃바운드 원격 측정 또는 외부 종속성 없이 자체 포함되도록 설계되었습니다. 에이전트 트래픽을 로컬 주소로 리디렉션하기만 하면 쉽게 배포하고 통합할 수 있습니다. 자체 호스팅되는 오픈 소스 버전이 제공되며, 향후 호스팅 버전도 계획되어 있습니다.