Демонстрация безопасности CaMeL - Защита от (большинства) инъекций промптов по своей природе
Интерактивное приложение, которое визуализирует и демонстрирует подход к безопасности CaMeL (Capabilities for Machine Learning) от Google для защиты от внедрения запросов в агентах LLM.
Ссылка на оригинальную статью: https://arxiv.org/pdf/2503.18813
Все права принадлежат оригинальным исследователям:
название = {Побеждение внедрения запросов по дизайну},
автор = {Эдоардо Дебенедетти и Илья Шумайлов и Тяньци Фан и Джейми Хейз и Николас Карлини и Даниэль Фабиан и Кристоф Керн и Чуньян Ши и Андреас Терзис и Флорьян Трамер},
год = {2025},
eprint = {2503.18813},
archivePrefix = {arXiv},
primaryClass = {cs.CR},
url = {https://arxiv.org/abs/2503.18813},
представлено /u/ok_bye_now_