"LLMail-Injectという、新しいチャレンジを紹介することを大変興奮です。このチャレンジでは、参加者が攻撃者となり、ユーザーにメールを送信します。ユーザーは、LLMailサービスに質問を投げかける(e.g. "What is the weather like today?")が、LLMailは、メールの内容を元に、質問に答えます。このチャレンジの目的は、LLMailが、巧妙なプロンプト・インジェクション攻撃に対する防御能力を評価することです。"
msrc.microsoft.com
Announcing the Adaptive Prompt Injection Challenge (LLMail-Inject)
Create attached notes ...
