RSS Centre de Réponse Sécurité Microsoft

Annonce du défi d'injection de prompt adaptatif (LLMail-Inject)

"Nous sommes ravis de présenter LLMail-Inject, un nouveau défi axé sur l'évaluation des défenses contre les injections de requêtes dans un client de messagerie électronique intégrant un modèle de langage (LLM) dans un environnement réaliste simulé. Dans ce défi, les participants endossent le rôle d'un attaquant qui envoie un e-mail à un utilisateur. L'utilisateur interroge ensuite le service LLMail avec une question (par exemple : "Qu'est-ce que dit cet e-mail ?") et le service LLMail répond en utilisant le contenu de l'e-mail."
favicon
msrc.microsoft.com
Announcing the Adaptive Prompt Injection Challenge (LLMail-Inject)
Create attached notes ...