구글의 1만 달러 환불 테스트는 왜 AI 에이전트가 제... 노트

구글의 1만 달러 환불 테스트는 왜 AI 에이전트가 제로 트러스트를 필요로 하는지를 보여준다

Google의 오픈 소스 자율 고객 지원 및 반품 에이전트는 Agent Development Kit(ADK)와 Gemini를 사용하여 구축되었으며, 개발자가 민감한 시스템과 상호 작용하고 실제 작업을 수행하는 AI 에이전트에 제로 트러스트 보안 원칙을 적용하는 방법을 보여줍니다. 이 프로젝트는 AI 에이전트가 조작되거나 손상될 수 있다고 가정하고 에이전트가 할 수 있는 일을 제한하기 위한 보안 제어를 적용하는 접근 방식을 테스트합니다. 아키텍처는 모델 외부에서 안전 장치를 사용하여 작업을 확인합니다.