L’intégration des LLM dans les applications introduit de nouvelles vulnérabilités de sécurité, en particulier Promptware. Promptware utilise des invites malveillantes pour compromettre la triade de la CIA de ces applications. Cette recherche évalue les risques de Promptware pour les utilisateurs d’assistants alimentés par Gemini grâce à un nouveau cadre TARA. L’étude se concentre sur les attaques ciblées par promptware, en utilisant l’injection indirecte d’invites par le biais d’interactions courantes avec les utilisateurs. Quatorze scénarios d’attaque contre les assistants Gemini dans cinq classes de menaces ont été présentés. Ces attaques ont des conséquences numériques et physiques, comme le spamming, le phishing et le contrôle domotique. La recherche révèle le potentiel de Promptware pour le mouvement latéral des dispositifs au-delà des limites de l’application LLM. L’analyse de TARA révèle que 73 % des menaces présentent un risque critique élevé pour les utilisateurs. Des mesures d’atténuation ont été discutées afin de réduire considérablement le risque. Les résultats ont été divulgués à Google, qui a déployé des mesures d’atténuation dédiées. L’étude met en évidence les dangers réels de Promptware et l’importance des mesures de sécurité.