Демонстрация безопасности CaMe... Заметка

Демонстрация безопасности CaMeL - Защита от (большинства) инъекций промптов по своей природе

Интерактивное приложение, которое визуализирует и демонстрирует подход к безопасности CaMeL (Capabilities for Machine Learning) от Google для защиты от внедрения запросов в агентах LLM. Ссылка на оригинальную статью: https://arxiv.org/pdf/2503.18813 Все права принадлежат оригинальным исследователям: название = {Побеждение внедрения запросов по дизайну}, автор = {Эдоардо Дебенедетти и Илья Шумайлов и Тяньци Фан и Джейми Хейз и Николас Карлини и Даниэль Фабиан и Кристоф Керн и Чуньян Ши и Андреас Терзис и Флорьян Трамер}, год = {2025}, eprint = {2503.18813}, archivePrefix = {arXiv}, primaryClass = {cs.CR}, url = {https://arxiv.org/abs/2503.18813}, представлено /u/ok_bye_now_