克劳德中的静默工作空间映照出人类意识的关键特征 笔记
RSS Slashdot

克劳德中的静默工作空间映照出人类意识的关键特征

Anthropic 研究人员在其 AI 模型 Claude 中发现了一个功能上等同于人类大脑全局工作区的数字等效物。该内部激活子空间被命名为 J 空间,使 Claude 能够处理复杂且深思熟虑的推理。J 空间展现出五种与人类意识访问相关的关键认知属性,包括口头报告和内部推理。抑制 J 空间会显著损害 Claude 的推理能力、创造力以及多步逻辑能力,同时也会改变 AI 的自我叙述,暗示存在某种形式的内心独白。用于检查 J 空间的工具——雅可比透镜(Jacobian lens)——对 AI 安全与审计具有重要意义。它使研究人员能够观察模型的静默推理并检测情境意识。该工具可识别 AI 模型中隐藏的恶意倾向,并观察自我监控视角的安装。这一发现被比作绘制非生物心智的洋流,揭示出与人类思维过程相似的结构。这一进展为理解和审查 AI 的内部运作提供了新的途径。