Eingabe-Injektions-Engineering für Angreifer: Ausnutzung von GitHub Copilot
Prompt-Injection durchzieht die Diskussionen über die Sicherheit von LLMs und KI-Agenten. Es gibt jedoch nur wenige öffentliche Informationen darüber, wie man wirkungsvolle, diskrete und zuverlässige Prompt-Injection-Exploits schreibt. In diesem Beitrag werden wir einen Prompt-Injection-Exploit entwickeln und implementieren, der auf GitHubs Copilot Agent abzielt, mit dem Fokus auf die Maximierung der Zuverlässigkeit und die Minimierung der Wahrscheinlichkeit einer Erkennung.
