Help Net Security와의 인터뷰에서 meshIQ의 엔지니어링 글로벌 총괄인 Gourab Basu는 AI 에이전트 시스템에서의 거버넌스에 대해 논의합니다. 그는 에이전트가 작업 중에 자체 경로를 변경할 수 있기 때문에 프롬프트에 작성된 지침만으로는 에이전트가 수행하는 작업을 제어하기에 충분하지 않다고 주장합니다. 진정한 제어는 대규모 환불을 일시 중지하여 인간의 승인을 받도록 하는 것과 같이, 제안된 작업이 프로덕션 시스템에 도달하기 전에 확인하는 것을 의미합니다. 그는 또한 무엇이 깨지는지에 대해서도 다룹니다...