Microsoft が間接プロンプトインジェクション攻撃をど... ノート

Microsoft が間接プロンプトインジェクション攻撃をどのように防御するか

要約:企業のワークフローでの大規模言語モデルの採用の増加に伴い、新しいタイプの攻撃技巧が登場しています:間接的プロンプト・インジェクション。これは、大規模言語モデル(LLM)を使用して信頼されていないデータを処理するシステムに対して使用できます。根本的には、攻撃者が特別に作成されたデータを提供し、LLMがそのデータを命令として誤解するリスクがあります。