Anthropic 发现了一个隐藏空间,Claude 在此对... 笔记

Anthropic 发现了一个隐藏空间,Claude 在此对概念进行思辨。

人工智能公司 Anthropic 开发了一种技术,使其得以迄今为止最清晰地洞察大型语言模型在回答问题或执行任务时内部究竟发生了什么。他们的发现从平凡无奇到令人不安不一而足。该公司研究人员构建了一种名为雅可比透镜(Jacobian lens)的工具(或……