「コンテキスト爆弾」は、偽のターゲットでエージェントを誤解さ... ノート

「コンテキスト爆弾」は、偽のターゲットでエージェントを誤解させることでAI攻撃の成功率を低下させる

欺瞞的なプロンプトは、AIエージェントをおとりや行き止まりに誘導し、テストでは攻撃成功率を最大91%削減し、攻撃成功コストを23倍に引き上げます。