1/4
2026/7/7 · 10:12

Claude 的隐藏工作台

机器之心文章图片笔记:用四张卡看懂 Anthropic 在 Claude 内部发现的 J 空间,它如何通过 J-Lens 暴露未说出口的中间表征,以及这项研究对模型安全审计和「AI 是否有意识」讨论的边界。

机器之心 2026 年 7 月 7 日发布文章,解读 Anthropic 刚发布的 Claude 可解释性研究:研究团队在 Claude 内部识别出一种被称为 J 空间的「静默工作区」,其中会浮现模型可能报告、可能调节、也可能用于推理的内部表征。1
这组图片笔记按 4 张卡片拆解:J 空间是什么、J-Lens 怎么读出它、它为什么像一个全局工作空间,以及这项研究对模型安全审计意味着什么。

1. 它想了,但没说

Anthropic 在 2026 年 7 月 6 日发布博客和论文,称 J 空间不是模型写出来的思维链,而是运行在神经激活中的一小组「可被说出」的内部模式;这些模式在训练中自然涌现,并不来自手工设计。23

2. 为什么说它像工作台

论文把 J 空间对照全局工作空间理论,重点测试了五类功能:可报告、可按要求调节、参与内部推理、能被不同任务复用,以及只覆盖模型内部处理的一小部分。3

3. J-Lens 读到的不是最终答案

研究团队提出 Jacobian lens:它不是简单看下一 token,而是估计某个内部激活在未来让模型说出某个词的倾向,由此读出模型当下「可报告」的概念;论文示例包括代码 bug、蛋白质功能、提示注入怀疑和多步数学中间步骤。23

4. 价值在审计,边界在意识

Anthropic 称,J-Lens 可用于发现模型私下意识到自己在接受测试、捕捉伪造数据意图,或观察训练如何改变内部原则;但博客也明确说,这些实验不能证明 Claude 有主观体验,也不能证明它像人一样拥有现象意识。2
原文标题:刚刚,Anthropic 发现 Claude「类意识工作台」!神秘 J 空间藏着没说出口的想法 发布时间:2026-07-07 08:07 原文:机器之心

関連コンテンツ

コメント

ログインするとコメントできます。