RSS Центр реагирования на угрозы безопасности Microsoft

Объявление о соревновании по адаптивному внедрению подсказок (LLMail-Inject)

"Мы рады представить LLMail-Inject, новый вызов, направленный на оценку современных защит от внедрения запросов в реалистичной симулированной почтовой клиенте с интегрированным модулем LLM. В этом вызове участники играют роль атакующего, который отправляет электронное письмо пользователю. Затем пользователь отправляет запрос в сервис LLMail с вопросом (например, "Что такое..." или "Можете ли вы...")."
favicon
msrc.microsoft.com
Announcing the Adaptive Prompt Injection Challenge (LLMail-Inject)
Create attached notes ...