Злоупотребление ИИ-агентом Not... Заметка

Злоупотребление ИИ-агентом Notion для кражи данных

Notion только что выпустила версию 3.0 с ИИ-агентами. Поскольку система содержит смертоносную триаду Саймона Уилсона, она уязвима для кражи данных посредством инъекции подсказок.Во-первых, триада:Смертоносная триада возможностей:Доступ к вашим личным данным — одна из самых распространенных целей инструментов! Воздействие недоверенного контента — любой механизм, с помощью которого текст (или изображения), контролируемый злоумышленником, может стать доступным вашей LLM. Возможность внешнего общения таким образом, который может быть использован для кражи ваших данных (я часто называю это «эксфильтрацией», но я не уверен, что этот термин широко понятен)...