Comment Microsoft se défend co... Note

Comment Microsoft se défend contre les attaques d'injection de prompt indirect

Résumé L'adoption croissante des modèles de langage de grande taille (LLM) dans les flux de travail d'entreprise a introduit une nouvelle classe de techniques d'attaque : l'injection de prompt indirect. L'injection de prompt indirect peut être utilisée contre les systèmes qui exploitent les modèles de langage de grande taille (LLM) pour traiter des données non fiables. Fondamentalement, le risque est que l'attaquant puisse fournir des données spécialement conçues que le LLM interprète à tort comme des instructions.