"Контекстные бомбы" могут срыв... Заметка

"Контекстные бомбы" могут срывать атаки, управляемые ИИ, обнаружили исследователи

Новый подход, опробованный исследователями Tracebit, оказался очень эффективным в предотвращении полного компрометирования целевых сред со стороны ИИ-агентов. Примечательна не сама техника — внедрение подсказок — это уже не новость, — а направление, в котором она применяется: не для захвата ИИ-агентов, а для защиты от них. "Канарейки" с контекстными бомбами Tracebit предлагает клиентам ряд "канареек", то есть ресурсов и учетных данных-приманок, которые при атаке злоумышленниками обеспечивают раннее предупреждение о...