LLM(대규모 언어 모델)의 애플리케이션 통합은 새로운 보안 취약점을 가져오며, 특히 Promptware(프롬프트웨어)에 대한 취약점이 있습니다. Promptware는 악의적인 프롬프트를 사용하여 이러한 애플리케이션의 기밀성, 무결성, 가용성(CIA 트리드)을 위협합니다. 이 연구는 새로운 TARA 프레임워크를 통해 Gemini 기반 어시스턴트 사용자의 Promptware 위험을 평가합니다. 이 연구는 일반적인 사용자 상호작용을 통해 간접적인 프롬프트 주입을 사용하는 타겟 프롬프트웨어 공격에 중점을 둡니다. Gemini 어시스턴트에 대한 5가지 위협 클래스에 걸친 14가지 공격 시나리오가 시연되었습니다. 이러한 공격은 스팸, 피싱, 홈 오토메이션 제어와 같은 디지털 및 물리적 결과를 초래할 수 있습니다. 이 연구는 LLM 애플리케이션의 경계를 넘어 장치의 수평 이동에 대한 Promptware의 잠재력을 밝히고 있습니다. TARA 분석은 위협의 73%가 사용자에게 높은 위험을 가짐을 보여주고 있습니다. 위험을 크게 줄이기 위한 완화 조치가 논의되었습니다. 연구 결과는 Google에 공개되었으며, Google은 전용 완화 조치를 배포했습니다. 이 연구는 Promptware의 실제 위험과 보안 조치의 중요성을 강조합니다.