"Мы рады представить LLMail-Inject, новый вызов, направленный на оценку современных защит от внедрения запросов в реалистичной симулированной почтовой клиенте с интегрированным модулем LLM. В этом вызове участники играют роль атакующего, который отправляет электронное письмо пользователю. Затем пользователь отправляет запрос в сервис LLMail с вопросом (например, "Что такое..." или "Можете ли вы...")."
msrc.microsoft.com
Announcing the Adaptive Prompt Injection Challenge (LLMail-Inject)
Create attached notes ...
