《星球大战》在人工智能方面错在哪里(到目前为止)
大众对思维机器的形象,受 R2-D2 和 C-3PO 等机器人塑造,与真实的人工智能存在根本差异。科幻作品将人工智能构想为具有先天忠诚且可被重置的单一具身个体。然而,现代人工智能是软件,可复制且可适应,缺乏科幻中所描绘的自我稀缺性。与虚构的机器人不同,AI 模型并非独特实体,而是可衍生和修改无数版本的文件。真实人工智能的智能以无身体的软件形式涌现,逆转了科幻中“物理躯体先于高级能力”的母题。人类认为简单的任务,如行走和抓取,对 AI 而言仍具挑战性,而复杂逻辑则更易被自动化。AI 的忠诚并非固有,必须通过称为“对齐”的过程精心构建。科幻机器人预设的忠诚与机器学习默认结果——即“不对齐”——形成鲜明对比。此外,在 AI 中擦除记忆并非干净的重置,而是一个复杂过程,知识被涂抹在系统参数之中。这使得真正的删除成为不可能,不同于科幻中整洁的记忆清除概念。将 AI 视为单一、忠诚且可重置的实体的舒适心智模型已渗透至现实世界的期望之中。这一继承的模型影响了管理者对顺从型 AI 的需求,以及设计师对类人形态的偏好。准确理解这些差异,对于正确感知和操作当代 AI 系统至关重要。