RSS マイクロソフト セキュリティ レスポンス センター フォロー Microsoft が間接プロンプトインジェクション攻撃をどのように防御するか 要約:企業のワークフローでの大規模言語モデルの採用の増加に伴い、新しいタイプの攻撃技巧が登場しています:間接的プロンプト・インジェクション。これは、大規模言語モデル(LLM)を使用して信頼されていないデータを処理するシステムに対して使用できます。根本的には、攻撃者が特別に作成されたデータを提供し、LLMがそのデータを命令として誤解するリスクがあります。 How Microsoft defends against indirect prompt injection attacks msrc.microsoft.com