숨겨진 프롬프트는 AI의 기억을 몰래 재작성할 수 있으... 노트

숨겨진 프롬프트는 AI의 기억을 몰래 재작성할 수 있으며, 연구원들은 이것이 심각한 문제라고 말합니다.

연구원들은 AI 에이전트에 비밀리에 잘못된 기억을 주입하여 향후 응답과 자율 행동에 영향을 미치는 새로운 공격인 GhostWriter를 시연했습니다.
CdXz5zHNQW_UIOzoLjx3W.jpeg