에이전트 복잡성은 여러 에이전트와 해당 API 호출의 상호 연결성으로 인해 발생하는 기업의 중요한 문제입니다. 이러한 복잡한 상호 작용의 그물망은 관리하고 이해하기 어려운 시스템을 만듭니다. 더 많은 에이전트를 추가하는 것은 단순히 연결을 선형적으로 증가시키는 것이 아니라, 이를 복합적으로 만들어 시스템을 점점 더 불투명하게 만듭니다. 결과적으로, 에이전트를 책임지는 사람들이 운영 및 권한을 놓치면서 AI 프로그램이 종종 중단됩니다. 에이전트 배포를 체크리스트처럼 취급하려는 현재의 본능은 이러한 복잡하고 연쇄적인 행동을 관리하는 데 불충분함이 입증되었습니다.권한 침해는 에이전트가 명시적인 재승인 없이 시간이 지남에 따라 더 넓은 접근 권한을 얻게 되는 일반적인 문제점입니다. 워크플로우에 여러 에이전트가 포함되면서 소유권도 희석되어 실패에 대한 책임이 불분명해집니다. 기존 거버넌스 인프라는 에이전트 행동의 상호 연결 및 연쇄적인 특성에 발맞추기 위해 고군분투하고 있습니다. 이를 해결하기 위해 각 에이전트는 고유한 신원, 정의된 범위 및 인간 후원자를 가져야 합니다.그러나 에이전트 수준의 신원만으로는 불충분하며, 에이전트의 행동과 그 하류 효과를 실시간으로 추적하기 위한 더 넓은 감독 메커니즘이 필요합니다. 정책 위반 행동을 발생 전에 방지하는 능력인 시행 또한 중요합니다. 에이전트 AI에 성공하는 기업은 성장하는 에이전트 함대를 관리하기 위해 가시성과 책임성을 모두 구축합니다. 이 접근 방식은 "인간-에이전트 조화"를 촉진하여 규모와 책임성이 함께 성장하도록 합니다. 진정한 위험은 개별 에이전트에 있는 것이 아니라, 규모에 따른 예측 불가능한 상호 작용에 있으며, 이는 프로덕션 배포를 방해합니다. 복잡성을 해결함으로써 자율성은 책임이 아닌 이점이 됩니다.