Notion의 AI 에이전트를 이용한 데이터 절도
"노션이 AI 에이전트를 포함한 3.0 버전을 출시했습니다. 이 시스템은 사이먼 윌슨의 치명적인 삼중주를 포함하고 있기 때문에 프롬프트 주입을 통한 데이터 도난에 취약합니다.첫째, 삼중주:치명적인 삼중주 기능은 다음과 같습니다.귀하의 개인 데이터에 액세스 - 애초에 도구의 가장 일반적인 목적 중 하나입니다!
신뢰할 수 없는 콘텐츠에 노출 - 악의적인 공격자가 제어하는 텍스트(또는 이미지)가 LLM에 제공될 수 있는 모든 메커니즘
데이터를 훔치는 데 사용될 수 있는 방식으로 외부와 통신할 수 있는 능력 (저는 종종 이를 "유출"이라고 부르지만, 이 용어가 널리 이해되고 있는지 확신할 수 없습니다)..."