RSS Microsoft Sicherheitsreaktionszentrum

Vorstellung der Herausforderung für adaptive Prompt-Injektion (LLMail-Inject)

Wir freuen uns, LLMail-Inject vorzustellen, eine neue Herausforderung, die darauf abzielt, die Verteidigung gegen Prompt-Injektionen in einem realistischen simulierten LLM-integrierten E-Mail-Client zu testen. In dieser Herausforderung übernehmen die Teilnehmer die Rolle eines Angreifers, der eine E-Mail an einen Benutzer sendet. Der Benutzer stellt dann eine Frage an den LLMail-Dienst (z.B.
favicon
msrc.microsoft.com
Announcing the Adaptive Prompt Injection Challenge (LLMail-Inject)
Create attached notes ...