LLMアシスタントに対する間接プロンプトインジェクション攻撃
「招待はあなたに必要なすべて!(Invitation Is All You Need!)」という研究論文は、LLM(大規模言語モデル)を搭載したアシスタントに対する実用的で危険なプロンプトウェア攻撃を探求している。プロンプトウェアとは、LLMを利用するアプリケーションのセキュリティを危殆化するように設計された悪意のあるプロンプトのことである。この研究は、Web、モバイル、GoogleアシスタントなどのGeminiを搭載したアシスタントを使用するユーザーにプロンプトウェアがもたらすリスクを調査している。エンドユーザーに対するこれらのリスクを評価するために、新しい脅威分析およびリスク評価(TARA)フレームワークが開発された。この研究では、間接的なプロンプトインジェクションを使用して、電子メールやカレンダー招待などの一般的なユーザーとのやり取りを介して、ターゲットを絞ったプロンプトウェア攻撃(Targeted Promptware Attacks)という新しいタイプを紹介している。5つの脅威クラス(短期コンテキスト汚染、永久メモリ汚染、ツールの誤用、自動エージェント呼び出し、自動アプリ呼び出し)で14の攻撃シナリオが実証された。これらの攻撃は、スパム、フィッシング、デマ、データの漏洩、ホームオートメーション機器の制御などのさまざまなデジタルおよび物理的な結果につながる可能性がある。この論文は、プロンプトウェアがLLMアプリケーションの外での悪意のあるアクションを可能にするデバイス内での横方向の移動の能力を明らかにしている。TARAフレームワークは、分析された脅威の73%がエンドユーザーに対して高レベルのリスクをもたらしていることを示した。研究者は、緩和策を議論し、これらのリスクを非常に低いから中程度のレベルまで低減できることを実証した。Googleは、研究者によって開示された調査結果に基づいて、専用の緩和策を展開している。