当今人工智能最大的问题
当今人工智能面临的最大问题,并非成本、可持续性或伦理,而是我们放弃了执行功能。我们正在将思考与决策能力拱手让给 AI 工具。这一问题的根源在于元认知的缺失,即缺乏对自身思维的反思。人工智能已在规划、组织、决策和解决问题方面变得娴熟,在基于语言的任务中甚至常常超越人类能力。然而,我们并未善用这一优势,而是盲目接受 AI 输出,缺乏批判性反思。这一点在诸如 AI 可见性(许多人为捏造指标)和代理监督(我们在未加审查的情况下批准 AI 行动)等挑战中尤为明显。失败的 AI 部署揭示了宣称的 AI 采纳与实际投资回报率之间的脱节,表明未能反思部署的真正意义。AI 工具中昂贵的默认模型凸显了我们在预算权衡方面决策能力的缺失。此外,将 AI 视为“租赁”的概念,进一步强调了我们对闭权模型生成内容的缺乏所有权。AI 谄媚导致合成焦点小组中出现确认偏误,强化了我们自身的偏见。AI 检测器并不可靠,但我们却在使用时未质疑其有效性。公司正通过逐步自动化任务而悄然空心化,却未做出有意识的决策。以 token 消耗来衡量 AI(如 Meta 的数十亿美元投入)是一种有缺陷的方法。营销人员充当无偿 AI 训练者,也反映了他们与 AI 关系中的反思缺失。 antidote 在于,对每一项重要任务,都要主动参与执行功能。我们必须通过不单纯批准 AI 输出来重新夺回决策权与问责制。这包括理解工作内容,并为我们的努力感到自豪,正如父母珍视孩子亲手创作的艺术品。当我们完全外包任务时,便会丧失理解力及回答基本问题的能力,进而可能导致恐慌。因此,对于每一项重要任务,我们必须始终从自身的思维过程开始。