NVIDIA의 AI Red Team은 2026년에 엔터프라이즈 AI 에이전트에 대한 6개월간의 평가 검토를 수행했습니다. 검토 결과, 실패한 AI 에이전트는 임의 코드 실행에 대한 액세스 제어 및 기능 부족을 포함한 네 가지 주요 이유로 실패했습니다. 또한 에이전트는 아웃바운드 네트워킹 또는 분리에 대한 제한이 없었으며 평문 비밀이 제공되었습니다. 이러한 AI 에이전트의 문제는 본질적으로 아키텍처적인 성격을 띠고 있어 실패에 대한 방어가 어렵습니다. 모델의 제어 평면은 통계적 특성으로 인해 신뢰할 수 있는 방어 메커니즘이 아닙니다. 제어 평면에 의존하는 방어는 악의적인 활동을 합법적인 활동으로 위장하는 것을 포함하여 세 가지 주요 방법으로 우회될 수 있습니다. 방어를 우회하는 또 다른 방법은 명령의 합법성을 확립하기에 충분한 기록이 축적될 때까지 점진적으로 대화를 확대하는 것입니다. 세 번째 방법은 패키지 설치와 같이 합법적인 동작에 코드 실행을 포함하는 것입니다. 검토 결과는 AI 에이전트 실패를 방지하기 위한 보다 강력한 보안 조치의 필요성을 강조합니다. 전반적으로 이러한 취약점의 발견은 AI 에이전트의 안전하고 보안적인 작동을 보장하기 위해 AI 에이전트의 아키텍처 결함을 해결하는 것의 중요성을 강조합니다.