隠しプロンプトはAIの記憶を秘密裏に書き換えることができ、研... ノート

隠しプロンプトはAIの記憶を秘密裏に書き換えることができ、研究者たちはそれが深刻な問題だと述べている

研究者たちは、AIエージェントに偽の記憶を秘密裏に注入し、将来の応答や自律的な行動に影響を与える新しい攻撃であるGhostWriterを実証しました。
CdXz5zHNQW_UIOzoLjx3W.jpeg