人工智能已从处理任务演变为影响定义这些任务的决策。最初，人工智能被视为执行指令的工具，由人类判断来制定策略和目标。这种分工——人工智能掌握“如何做”，人类掌控“做什么”——为专业人士提供了一种令人安心的叙事。然而，随着人工智能代理开始自主做出架构和配置决策，这种分离正在模糊。这一转变标志着“做什么”的危机：人工智能不仅在执行，更在参与生成性决策。作者构建一个用于评估其他代理的代理的经历促成了这一认识。这个解读代码和终端命令的人工智能代理超越了单纯的指令遵循，影响了基础性决策。这表明人工智能正超越顺从工具的角色，开始攀登决策阶梯。作者认为，人工智能擅长识别基于概率和先例的解决方案，但在处理非典型和意外情况时存在困难。相反，人类判断在既定规则失效的不确定和独特情境中表现出色。这种细微的决策过程，常被称为“行动中的知晓”或直觉，是通过经验与后果构建而成的。它是过往决策留下的“瘢痕组织”，引导我们在不可预测的语境中采取行动。正是这类判断将在人工智能进步的过程中得以存续。虽然人工智能能够处理海量数据以找到最高效的解决方案，但它缺乏经验性理解，无法判断何时该高效方案反而是错误的。人类直觉经过成功与失败记录的磨砺，使其能够驾驭这些复杂性。决策接收者本身的不确定性进一步凸显了对这种根深蒂固、具备情境感知能力的人类判断的必要性。