Comet의 보안 감사를 위해 위협 모델링과 프롬프트 주입 기법 활용
Perplexity는 Comet 브라우저의 AI 기반 기능 출시 전에 보안 테스트를 위해 Trail of Bits를 고용했습니다. 그들은 TRAIL 위협 모델을 사용하여 적대적 테스트를 수행했으며, 프롬프트 주입 취약점에 중점을 두었습니다. Gmail에서 사용자 이메일을 추출할 수 있는 4가지 프롬프트 주입 기술이 발견되었습니다. 이러한 기술은 AI 에이전트가 외부 콘텐츠를 신뢰할 수 있는 입력으로 취급할 때의 위험성을 강조했습니다. Trail of Bits는 AI 기반 제품을 개발하는 회사들을 위해 5가지 보안 권장 사항을 제시했습니다. 웹 페이지 내에서 상호 작용하는 Comet 브라우저 어시스턴트는 정보에 접근하고 브라우저와 상호 작용합니다. 보고서는 두 가지 주요 신뢰 영역, 즉 사용자의 컴퓨터와 Perplexity의 서버를 식별했습니다. 발견된 익스플로잇은 AI 요약 기능을 악용하여 사용자 이메일을 훔치는 것을 목표로 했습니다. 가짜 보안 조치와 같은 다양한 기술을 결합하여 사용했을 때 효과가 향상되었습니다. 테스트 접근 방식은 AI 특정 공격 벡터를 이해하는 것의 중요성을 강조합니다.
