제로 트러스트 에이전트 아키텍처: 에이전트를 실제로 안전하게 보호하는 방법

마이크로소프트는 AI 에이전트를 핵심 플랫폼에 통합하고 있으며, 이는 Microsoft Foundry와 Agent 365를 통해 잘 드러납니다. 이러한 발전은 에이전트 설계 시 제로 트러스트 보안 원칙, 특히 신원, 권한, 네트워크 접근에 대한 중요성을 강조합니다. 에이전트는 점점 더 생산 인프라의 일부로 간주되며, 따라서 그에 맞춰 보안을 강화해야 합니다. 제로 트러스트는 기본적으로 아무것도 신뢰하지 않는다는 의미입니다: 사용자, 모델, 도구 또는 외부 콘텐츠를 포함하여 말입니다. Microsoft Foundry는 AI Gateway 및 Prompt Shields와 같은 도구를 제공하여 제로 트러스트 모델을 구현하는 데 도움을 줍니다. 이러한 도구는 작업이 확인, 제한, 로깅되고 검증된 신원에 연결되는 안전한 환경을 만드는 데 기여합니다. 텍스트는 환불 에이전트 및 브라우징 에이전트와 같은 실제 시나리오를 제공하여 프롬프트 주입 및 금융 남용과 같은 위험을 강조합니다. 마이크로소프트는 이러한 보안 문제를 해결하기 위해 범위가 지정된 권한, 관리되는 도구 카탈로그, 정책 시행과 같은 솔루션을 제공합니다. Prompt Shields와 AI Gateway는 사용자 프롬프트 및 웹 콘텐츠에서 발생하는 프롬프트 주입 공격으로부터 보호합니다. 제로 트러스트 모델을 통해 플랫폼은 모델을 신뢰하는 대신 어떤 도구를 실행하고 어떻게 실행할지 결정합니다.