Demostración de Seguridad de CaMeL - Defensa contra (la mayoría de) Inyecciones de Prompts por Diseño
Una aplicación interactiva que visualiza y demuestra el enfoque de seguridad CaMeL (Capacidades para Aprendizaje Automático) de Google para defenderse contra inyecciones de prompts en agentes de LLM.
Enlace al documento original: https://arxiv.org/pdf/2503.18813
Todo el crédito a los investigadores originales título={Vencer las inyecciones de prompts por diseño}, autor={Edoardo Debenedetti y Ilia Shumailov y Tianqi Fan y Jamie Hayes y Nicholas Carlini y Daniel Fabian y Christoph Kern y Chongyang Shi y Andreas Terzis y Florian Tramèr}, año={2025}, eprint={2503.18813}, archivePrefix={arXiv}, primaryClass={cs.CR}, url={https://arxiv.org/abs/2503.18813}, } presentado por /u/ok_bye_now_