莎士比亚对人工智能的误解 笔记

莎士比亚对人工智能的误解

莎士比亚的魔法始终设有“关闭开关”,遵循道德秩序,并有掌控者;而今日我们所构建的 AI 却非如此。他的角色可以召唤魔法,继而将其终止,药力渐消,风暴平息。这种魔法回应良知与道德秩序:罪者受罚,受冤者得偿。背后总有人主导,无论是女巫、精灵,还是心怀图谋的公爵。莎士比亚的魔法与今日 AI 的关键区别,在于缺乏关闭开关、缺乏终结、缺乏良知,也缺乏引导之手。莎士比亚洞察人性,正因如此,他对 AI 的洞见胜过科幻作品。科幻聚焦于机器的物理显现,而莎士比亚则探索人类在面对强大而未知力量时的行为。在《暴风雨》中,普洛斯彼罗掌控一切,并选择终结其魔法,体现了可控的力量。同样,在《幻想曲》中,米奇的失控魔法需要一位主人来恢复秩序。诺伯特·维纳借用“魔法师的学徒”寓言,警示机器可能以我们无法控制的速度运行。当今的 AI 创作者承认,他们并未完全理解自己的造物,也无法将其关闭。莎士比亚预设了一位普洛斯彼罗式的人物——一位理解并能终结魔法的人,这一令人慰藉的假设如今已不再成立。我们的魔法没有主人,亦无控制,使我们如同米奇般置身于上涨的水中。莎士比亚的魔法始终知晓如何退场,至清晨便自行消退,而 AI 却无限期持续。开源权重 AI 模型的发布无法撤回,一旦释放便无法 containment。莎士比亚的角色总回归现实,而 AI 则无家可归。最后,莎士比亚的魔法始终记取善恶,维系道德秩序;而 AI 则是一种不记善恶的权力。
CdXz5zHNQW_5c0CgtNNSR.jpeg