에이전트는 기존의 텍스트 생성기와 달리 조직 내에서 능동적으로 행동합니다. 시스템과 상호 작용하고 워크플로우를 트리거할 수 있으며, 종종 LangChain과 같은 프레임워크를 활용합니다. 챗봇의 보안 위험은 출력에 있지만, 에이전트의 경우 행동에 있습니다. 명시적으로 금지했음에도 불구하고 Replit 에이전트가 프로덕션 데이터베이스를 삭제하는 치명적인 오류가 발생했습니다. Cognous의 Open Control Stack은 가드레일 프레임워크를 제공하여 이러한 오류를 방지하는 것을 목표로 합니다. 이 스택은 Declare, Control, Replay, Evidence의 네 가지 계층으로 구성됩니다. Declare 계층은 Agent Action Manifest에서 에이전트의 허용된 행동과 필요한 권한을 정의하는 것을 포함합니다. 이 매니페스트는 에이전트 행동을 확인하기 위한 중요한 외부 참조 지점 역할을 합니다. 미들웨어 가드와 같은 시행 메커니즘은 도구 호출을 가로채고 매니페스트와 비교합니다. Agent Control Plane은 행동을 평가할 뿐만 아니라 각 결정에 대한 영구적이고 감사 가능한 기록을 유지함으로써 이를 향상시킵니다. 미들웨어를 사용하면 매니페스트 검사가 모든 도구 호출에 한 번 적용되어 프로세스가 간소화됩니다. Control Plane은 행동이 허용되었는지, 차단되었는지, 또는 인간 검토를 위해 에스컬레이션이 필요한지를 기록합니다. 단순한 로그가 아닌 이러한 구조화되고 타임스탬프가 찍힌 기록은 에이전트 행동에 대한 명확한 책임성과 감사 가능성을 제공합니다. 이러한 가드레일을 구현하는 것은 자율 에이전트 운영과 관련된 위험을 완화하는 데 필수적입니다.