RSS Sendero de Bits Blog
Seguir
Ingeniería de inyección de indicaciones para atacantes: Explotando GitHub Copilot
La inyección de prompts impregna las discusiones sobre la seguridad para LLMs y agentes de IA. Pero hay poca información pública sobre cómo escribir exploits de inyección de prompts potentes, discretos y fiables. En esta publicación, diseñaremos e implementaremos un exploit de inyección de prompts dirigido al Agente Copilot de GitHub, con un enfoque en maximizar la fiabilidad y minimizar las posibilidades de detección.
