その名前とは裏腹に、スティープル・バンプステッドには、尖塔のない教区教会、聖メアリー教会があります。一つの説では、その尖塔は破壊されたとされており、これは1648年にマークス・テイの聖アンドリュー教会が、元の尖塔が砲撃練習に使用された後に木造の塔を得たのと似ています。別の説明では、言語的な起源を唱えており、この村は元々「塔のあるバンプステッド」を意味する「Bumstede ad Turrim」であり、「Steeple」は後にヘリオンズ・バンプステッドと区別するために追加されたと示唆しています。しかし、より奇妙な話には、怒った魔法使いが強力な吹雪を呼び出したというものがあります。エリザベス・フレミングの1930年代の詩は、この吹雪を鮮やかに描写しており、村全体に混乱と破壊をもたらしました。嵐が突然去ったとき、村人たちは愛する、高く堂々とした尖塔が消え、瓦礫の山になったことを発見しました。風見鶏さえもなくなっており、村は風向きを知る術を失っていました。この魔法の説明は、魔法使いの怒りがスティープル・バンプステッドの失われた尖塔の原因であったことを示唆しています。