VentureBeat 한국어
팔로우
인증을 통과한 AI 에이전트도 여전히 드리프트(drift)하거나, 데이터를 노출하거나, 메모리 포이즈닝(memory-poisoned)될 수 있습니다.
AI 에이전트 배포 시 흔히 저지르는 실수는 게이트웨이 보안을 기반적인 신원 및 속성 계층보다 우선시하는 것입니다. 게이트웨이는 종종 먼저 구현되지만, 에이전트의 행동과 위임된 권한에 대한 필요한 컨텍스트가 부족합니다. 이는 명령 실행을 허용한 AI 게이트웨이의 치명적인 결함으로 입증된 것처럼 취약점으로 이어집니다. 진정한 에이전트 보안은 게이트웨이 강제 적용보다 신원 및 속성이 앞서는 계층적 접근 방식을 요구합니다.실패 패턴은 신원 및 컨텍스트와 같은 상위 종속성이 설정되기 전에 제어를 구현하는 것에서 발생합니다. 예를 들어, 게이트웨이는 사용자 토큰을 인증할 수 있지만 에이전트의 특정 제한된 기능이나 신뢰할 수 없는 출처를 인식하지 못할 수 있습니다. 결과적으로 유효한 자격 증명과 허용된 API 호출이 부적절한 행동으로 이어질 수 있습니다. 단순히 에이전트의 권한을 인간 주체의 수준으로 제한하는 것은 별도의 속성을 생성하지 않습니다.종속성 게이트 배포 모델은 에이전트 인벤토리 및 책임 있는 소유권으로 시작하는 6단계 프로세스를 제안합니다. 이어서 별도의 에이전트 신원, 작업 범위 자격 증명, 속성 가능한 원격 측정, 런타임 행동 강제 적용, 그리고 마지막으로 행동 기준선 및 종료 경로가 이어집니다. 에이전트 레지스트리를 구축하는 것은 이러한 자산을 식별하고 관리하는 데 중요합니다.에이전트는 개발자 토큰이나 공유 서비스 계정과 분리된 자체 신원을 가져야 하며, 이 신원에는 위임 컨텍스트가 필요합니다. 시간 제한 및 작업 제한 액세스를 사용하여 행동을 검사하기 전에 기능을 축소해야 합니다. 모든 도구 호출이 에이전트, 주체 및 작업에 연결되도록 속성 적용을 자동화하기 전에 속성을 고정해야 합니다.마지막으로, 게이트웨이는 등록된 신원, 위임 컨텍스트 및 원격 측정에 액세스할 수 있을 때 효과적으로 정책을 강제할 수 있습니다. 탐지 및 종료 경로는 속성 가능한 에이전트 활동이 설정된 후에 마지막으로 개발됩니다. 조직은 프로덕션 에이전트의 인벤토리를 작성하고 속성 기능을 테스트하는 것으로 시작할 수 있습니다. 이 구조화된 접근 방식을 구현하면 기존 시스템을 방해하지 않고 강력한 에이전트 보안을 보장할 수 있습니다.