Missbrauch von Notions KI-Agen... Notiz

Missbrauch von Notions KI-Agenten für Datendiebstahl

Notion hat gerade Version 3.0 veröffentlicht, komplett mit KI-Agenten. Da das System Simon Willsons tödliche Dreifaltigkeit enthält, ist es anfällig für Datendiebstahl durch Prompt Injection.Zuerst die Dreifaltigkeit:Die tödliche Dreifaltigkeit der Fähigkeiten ist:Zugriff auf Ihre privaten Daten – einer der häufigsten Zwecke von Tools überhaupt! Aussetzung gegenüber nicht vertrauenswürdigen Inhalten – jeder Mechanismus, durch den Text (oder Bilder), der von einem böswilligen Angreifer kontrolliert wird, für Ihr LLM verfügbar werden könnte. Die Fähigkeit, extern zu kommunizieren, auf eine Weise, die zum Diebstahl Ihrer Daten verwendet werden könnte (ich nenne dies oft „Exfiltration“, bin mir aber nicht sicher, ob dieser Begriff weit verbreitet ist).