CaMeL-Sicherheitsdemonstration - Verteidigung gegen (die meisten) Prompt-Injektionen durch Design
Eine interaktive Anwendung, die Googles CaMeL-Sicherheitsansatz (Capabilities for Machine Learning) für den Schutz gegen Prompt-Injektionen in LLM-Agenten visualisiert und demonstriert.Link zum Original-Paper: https://arxiv.org/pdf/2503.18813Alle Credits gehen an die Original-Forscher Titel={Prompt-Injektionen durch Design besiegen}, Autor={Edoardo Debenedetti und Ilia Shumailov und Tianqi Fan und Jamie Hayes und Nicholas Carlini und Daniel Fabian und Christoph Kern und Chongyang Shi und Andreas Terzis und Florian Tramèr}, Jahr={2025}, eprint={2503.18813}, archivePrefix={arXiv}, primaryClass={cs.CR}, url={https://arxiv.org/abs/2503.18813}, } eingereicht von /u/ok_bye_now_