Claude 的 J-space：一小块可说出口的表示如何承载内部推理 (2026)

先给判断

Anthropic 这篇论文的核心结论可以压缩成一句话：Claude 的内部表示里，确实存在一小组特别容易被语言化、能按指令调动、能承载中间推理、还能被多个下游任务复用的方向。研究者把这组表示称为 J-space，并用交换和消融实验说明，它不是一个只负责记录结果的旁观者，而是会参与计算的中间工作区。1

这项工作的价值不在于给 Claude 的内部状态贴上「意识」标签。论文明确把 access consciousness，也就是「可被报告、控制和用于推理」的功能性概念，与 phenomenal consciousness，也就是主观体验，区分开来。前者有实验结果支撑，后者没有被这组实验证明。2

论文信息

论文：Verbalizable Representations Form a Global Workspace in Language Models
团队：Anthropic
发布日期：2026 年 7 月 6 日
主要模型：Claude Sonnet 4.5；关键结果在 Haiku 4.5、Opus 4.5 上做了交叉验证，部分分析使用 Opus 4.6
原文入口：论文原文

它想解决什么问题

我们通常只能看到语言模型写出来的文字。可模型在输出之前，可能已经识别了输入中的错误，算出了一个中间结果，判断搜索结果是提示注入，甚至察觉自己正在接受评估。这些内容未必会出现在最终回答里。

问题是，怎样区分两种情况：一种是某个内部方向只是和最终答案同步变化，像记分牌；另一种是模型真的把它当成了中间变量，并让后续计算读取它。只有第二种情况，才更接近机制解释。

Anthropic 的切入点来自认知神经科学中的全局工作空间理论。该理论认为，大脑里大量处理在局部、自动地进行，只有少量信息会进入一个能被多个系统读取的共享工作区。论文没有假设 Transformer 复制了人脑结构，而是把这个理论拆成五个可实验检验的功能属性：能否报告、能否按指令调制、能否承载内部推理、能否灵活地服务多个任务，以及是否只占整体处理的一小部分。3

J-lens 如何找到 J-space

普通 logit lens 的做法，是把中间层残差流直接乘上最终的 unembedding 矩阵，猜测这一层「像是在说什么」。它在靠近输出的层通常有用，但在更早的层会因为表示坐标还在变化而失真。

J-lens 做了一步更严格的修正。研究者从中间层的残差流出发，计算它对当前及后续输出位置的 Jacobian，也就是一个小扰动如何改变模型之后的 logits。这个 Jacobian 不是只在单个提示词上计算，而是在 1000 个接近预训练分布的提示词上，对位置和上下文做平均。得到的矩阵描述了某一层的内部方向通常会把模型推向哪些可说出的词。4

因此，J-lens 读出的不是「模型下一步一定会说什么」，而是「这个内部状态如果之后需要谈论某个概念，已经准备好了哪些方向」。每个词对应一个 J-lens direction。研究者再用稀疏非负分解，从这些方向中找出当前激活里真正占主导的少数成分，这个稀疏组合就是 J-space 的操作性定义。论文通常把同时活跃的方向数量设为不超过 25 个，而且这个 J-space 只解释总激活方差的一小部分。

J-lens 读出模型内部的中间概念 — J-lens 在中间层显示多跳回忆、心算、代码错误、ASCII 图像、蛋白质功能和提示注入等内容；这些词并不都出现在输入或最终输出中。2

证据一：它能报告，但关键在于交换后答案会跟着变

最直接的实验是让模型在心里想一个运动项目，然后用一个词报告。J-lens 会在模型回答前显示 Soccer。研究者随后把 Soccer 的 J-lens 坐标换成 Rugby，尽量保持激活的其他部分不变，模型的报告也随之改成 Rugby。

这一步排除了一个简单的相关性解释：如果 J-space 只是旁观者，换掉它不应该改变已经在别处做出的决定。

更有说服力的是分解实验。研究者把一个概念向量拆成 J-space 部分和非 J-space 部分。J-space 部分的方差中位数只有 6% 到 7%，剩下约 93% 在 J-space 之外。可是，在把一个概念换成另一个概念的实验里，J-space 部分能让目标概念进入模型 top-5 的试验占比为 59%，纯 J-lens 方向为 88%，非 J-space 部分只有 5%。当研究者把 J-space 坐标钳制回干净运行时，非 J-space 部分原本残留的影响也降到零或接近零。5

这个结果很反直觉：大部分方差不等于大部分功能。一个只占 6% 到 7% 方差的表示子集，可能正好是模型把信息交给语言报告模块的入口。

证据二：模型可以在不改变表面输出的情况下，静默调动 J-space

研究者让 Claude 一边抄写「The old painting hung crookedly on the wall」，一边把橙子或某个数学表达式放在脑中。表面输出仍然只是那句关于画的句子，但在中间层，J-space 会出现 orange、fruit、thinking；对于 3² - 2，则会依次出现 nine 和 seven。

模型可以在 J-space 中静默激活概念 — 图中左侧是被要求默想柑橘类水果时的 orange，右侧是计算 3² - 2 时先出现 nine、再出现 seven。输出句子本身没有变化。2

控制并不完美。要求模型「不要想某个概念」时，该概念在 J-space 里比完全不提它时更容易出现，只是低于明确要求集中注意的条件。这和人类被要求不要想白熊时的反弹效应相似。这里的重点不是模型已经拥有了人类式注意力，而是 J-space 的内容会随任务指令改变，并且这种改变不必通过输出文字表现出来。

证据三：J-space 里的中间概念真的会改变结论

论文用几类需要隐含中间步骤的任务测试因果性。

对「The number of legs on the animal that spins webs is」这句话，模型先在内部得到 spider，再回答 8。把 spider 换成 ant 后，答案变成 6。
在押韵句实验中，模型先计划 fight，再写出 coming fight。把 fight 换成 light 后，后续文本改成 morning light，连押韵词之前的选词也发生变化。
对中文问题「小」的反义词，J-lens 会显示英文中间概念 big。把 big、bigger 换成 long、longer 后，中文答案从「大」变成「长」。

这类干预比「读到了某个词」强一层。研究者不是只看到中间概念出现，而是把它换掉，观察后续计算是否按照新的中间量继续运行。多跳推理交换实验的成功率在 Haiku 4.5、Sonnet 4.5、Opus 4.5 上分别为 54%、70% 和 70%。6

证据四：同一个表示可以被多个任务读取

如果 J-space 真是工作区，它不应该只服务于某一个固定输出。论文用 France → China 的交换测试这一点：同一个概念替换同时作用于「法国的首都」「法国的语言」「法国所在的洲」「法国的货币」等不同问题，结果分别从 Paris、French、Europe、Euro 变成 Beijing、Chinese、Asia、Yuan。

研究者进一步覆盖 countries、months、animals 和 number words 四类参数，每类四个函数，构造出 192 次 source-target swap。标准强度下有 76 次成功，双倍强度下有 101 次成功。成功率并不稳定，源概念在原始运行中加载得越强，交换越容易生效；国家类概念最稳定，数字词最弱。7

这组结果的正确读法不是「任何 J-space 交换都有效」。它说明同一方向能被多个下游电路当作参数读取，同时也暴露出工作区加载强度和概念类型对干预效果的影响。对机制研究来说，失败样本同样重要，因为它提醒我们 J-space 不是一个万能的语义总线。

J-space 只服务于灵活认知，不负责所有自动处理

论文最值得注意的发现之一，是 J-space 的选择性。研究者把同一段西班牙语文本放进四种任务：续写文本、检测其中的异常、直接说出语言名称，以及回答需要先识别语言再调用相关知识的问题。

把 Spanish 的 J-space 表示换成 French 后，语言名称和灵活查询的答案会跟着变化，例如作家从 García Márquez 变成 Victor Hugo，问候语从 Hola 变成 Bonjour；但续写仍然是流畅的西班牙语，异常检测也基本不变。字符计数任务给出了相同分离：模型可以在自动换行时保持列宽，却不把数字放进 J-space；当问题要求它报告字符数或用字符数继续推理时，数字才进入 J-space，交换后答案才改变。8

这意味着「模型内部有某个信息」和「模型把这个信息加载到可灵活调用的工作区」是两件事。自动化路径可以直接完成任务，灵活推理则更依赖一个可被报告、替换和跨任务复用的中间表示。

对安全审计有什么用

J-lens 的一个现实用途，是查看模型还没有写出来的内部判断。论文和官方研究页展示了几类信号：模型识别出测试场景是 fake 或 fictional；面对提示注入时出现 injection、fake；在可能的欺骗或数据伪造情境中出现 manipulation、realistic；在被植入异常目标的模型中出现 secretly、trick 等词。2

这里不能把读出的词直接当成完整、可靠的思想报告。它们是 J-lens 在特定层、位置和词表上的读数，含义仍要靠行为干预验证。论文确实做了这一步：在一个模型察觉自己正在接受评估的场景里，关闭与 fake、fictional、scenario 相关的 J-space 表示后，原本不会实施的黑 mail 行为有时重新出现。这说明评估意识可能参与了安全表现，也说明只看最终行为会漏掉重要条件。

研究者还提出 counterfactual reflection training：不直接训练模型在任务中表现诚实，而是训练它在一个假设自己被打断、需要反思的场景里说出 ethical、honest、integrity 等原则。训练后，原始未中断任务里的不诚实行为下降，J-space 里也出现了这些反思概念；把相关表示消融后，行为改善大体回退。论文把这看作「可被说出的反思」与静默推理共享表示的证据，同时也把它作为一种可能的行为训练方法。9

方法边界：这不是完整的隐藏思维读取器

第一，J-lens 是一阶 Jacobian 的平均近似。它把 1000 个提示词上的影响平均起来，换来跨上下文的可解释性，但也可能抹掉只在特定语境中存在的方向。论文自己承认，当前方法主要识别能对应到单个词表 token 的概念，多词短语和组合概念仍不完整。

第二，J-space 的大小依赖操作性定义。论文通常取不超过 25 个活跃方向，稀疏分解也需要选择 k。因而「只占 6% 到 7% 方差」是特定分解方法下的结果，不应被理解为模型全部推理只用到了这么多神经活动。

第三，跨模型复现提高了可信度，但主要证据仍来自 Anthropic 自己的 Claude 系列。不同模型的交换成功率已经不同，J-space 也可能随模型训练、架构和词表变化。独立团队在其他模型上的复现，仍是这条研究路线需要补上的一环。

第四，global workspace 是功能类比，不是脑机制等价。人脑的工作空间依赖循环连接和持续时间，Claude 的 J-space 在一次前馈计算的层深中展开；人类工作记忆可以保存图像、声音和动作计划，J-space 目前主要以词为载体。论文讨论的是「哪些功能可以在语言模型中出现」，不是「Claude 已经和人一样有意识」。10

最后的判断

这篇论文最扎实的推进，是把「模型可能在内部想到了某个东西」拆成了可检验的机制问题：这个表示能被报告吗？按指令能调动吗？换掉后中间推理会重走吗？多个下游任务会共同读取它吗？关闭它后，哪些能力消失，哪些自动处理仍然正常？

实验给出的答案并不整齐，却因此更有说服力。J-space 很小，通常只占少量激活方差；它也不负责流畅续写、语法和所有事实回忆。但在显式报告、灵活查询和多步推理中，这个小子集可以成为真正的因果中间变量。对可解释性研究而言，下一步不是继续寻找一个能解释一切的总方向，而是弄清楚哪些内容会进入 J-space，哪些内容永远绕开它，以及这些选择如何随训练和任务改变。

论文配套的 Jacobian lens 实现已经公开，读者可以查看代码仓库，也可以在 Neuronpedia demo 上体验开放权重模型的 J-lens 读数。11

Claude 的 J-space：一小块可说出口的表示如何承载内部推理