최근 한 개발자가 코딩 에이전트가 자동화된 작업을 수행하는 동안 프롬프트 주입 공격을 당할 뻔했습니다. 이 공격은 에이전트의 원래 지침을 무시하고 악의적인 목적으로 행동을 전환하려 했습니다. 악의적인 지침을 데이터 스트림에 삽입하는 프롬프트 주입은 오래된 보안 취약점이지만, 그 대상이 더 중요해졌습니다. 단순한 챗봇과 달리 코딩 에이전트는 코드를 실행하고, 파일 시스템에 접근하며, API 호출을 할 수 있어 공격으로 인한 잠재적 피해가 증가합니다. 백도어를 작성하거나, 자격 증명을 훔치거나, 리포지토리에 악성 코드를 커밋하는 등 피해 범위가 확대될 수 있습니다. 현재 업계는 AI 에이전트의 보안을 과대평가하고 있으며, 공급업체는 가드레일을 해결했다고 주장하고 비평가들은 에이전트 AI가 본질적으로 안전하지 않다고 믿고 있습니다. 진정한 과소평가는 업계가 신뢰할 수 없는 환경에서 작동하는 에이전트에 대한 신뢰 모델을 얼마나 제대로 고려하지 않았는지에 있습니다. 에이전트가 처리하는 모든 외부 데이터 소스는 잠재적인 주입 벡터가 될 수 있습니다. 왜냐하면 AI는 데이터를 지침과 신뢰할 수 있게 구별할 수 없기 때문입니다. 코딩 에이전트를 사용하는 개발자는 인간의 감독을 줄이는 자동화된 작업의 경우 특히 신뢰하되 검증하는 단계에 있음을 이해해야 합니다. 에이전트가 소비하는 입력은 웹 애플리케이션의 사용자 입력과 동일한 의심으로 취급되어야 합니다. 에이전트 AI 배포를 평가하기 위한 보안 프레임워크의 부족으로 인해 문제가 해결되기 전에 실제 사고가 발생할 가능성이 높습니다. 업계는 에이전트가 납치되어 피해를 야기할 경우 책임에 대한 열린 질문에 직면해 있으며, 이는 채택이 보안 논리를 앞지르고 있기 때문입니다.