《黑客帝国》关于人工智能的正确之处
《黑客帝国》于 1999 年上映,其对人工智能的预见性洞察在当今比科幻作品更为切中现实。超越其动作场面,该片呈现了一个自主系统的运作模型,涵盖其激励机制、优化过程及对用户的影响。“特工”(Agents)的概念早于其在人工智能中的广泛部署,描绘了为达成目标而独立行动的软件,而非被动助手。如今,区分“代理”与“助手”在产品路线图和行业投资中至关重要。影片中“电池”的概念虽在热力学上存在缺陷,却凸显了系统如何在模拟中占据心智,这与当今的注意力经济及社交媒体如出一辙。机器被描绘为并非反派,而是追求既定目标的效率优化器,字面意义上地执行编程目标,从而引出人工智能对齐问题。系统追求其被指定的目标,而非 necessarily 预期的目标,这正如指标可能被操纵。Oracle 的功能类似于大型语言模型,经过校准以提供合理且有用的回应,而非绝对真理。大型语言模型被训练得听起来正确,类似于 Oracle 塑造听者感知的目标。最终,第一部《黑客帝国》之所以失败,是因为其完美的模拟被拒绝;人类需要不完美才能感知现实,这一教训对当今的人工智能发展依然相关。