Anthropic 发文称自家 Claude 已经开智，网友：为了上市，不择手段？

本文由 AI科技评论 撰写/授权提供，转载请注明原出处。

以下文章来源于：AI科技评论

作者：郑佳美

编辑：马晓宁

刚刚，Anthropic 发了一个关于 Claude 内部机制的新研究，名字叫 A global workspace in language models。

它不是在研究 Claude 最终回答得好不好，也不是在让 Claude 自己解释“我刚才为什么这么说”，而是直接去看 Claude 在生成回答之前，中间层里已经形成了哪些没有写出来的概念。

Anthropic 把这组内部表示叫 J-space，把读取它的方法叫 Jacobian Lens，简称 J-lens。

这个事情有意思，是因为我们平时看到的 LLM 基本只有外部行为：用户输入、模型输出、token 概率、工具调用、评测分数。模型内部到底在什么时候形成某个判断，什么时候识别出某个风险，什么时候准备走某个方向，通常是看不到的。

Anthropic 这次想做的，就是把这层“看不到”往里推一点。他们声称，Claude 内部有一小组特殊表示，不是普通的中间激活，也不是最终输出 token 的提前版本，而是一些可以被模型报告、可以被指令调动、可以参与内部推理、也可以影响后续计算的状态。

Anthropic 明确说，这不能证明 Claude 有人类意义上的主观体验；它讨论的是功能层面的可访问状态。

说白了，Anthropic 发的不是“Claude 有意识”的证明，而是一套新的内部观测方法：他们试图读取 Claude 还没说出口、但已经在内部形成的概念。

Claude 在生成回答之前，中间层里会出现一些和词相关的内部模式。Anthropic 把这些模式称为 J-space patterns。

每个 pattern 和一个词相关，但这个 pattern 亮起来，并不代表 Claude 马上要输出这个词，而是代表这个词对应的概念已经进入了模型当前可使用的内部状态。Anthropic 自己的解释是：J-space 里的词像是 Claude “mind” 里的内容，但它不一定会被写到最终回答里。

这和 chain-of-thought 不一样。Chain-of-thought 是模型把推理过程写成文本，J-space 则发生在模型内部 activation 里。它不占输出窗口，也不会直接暴露给用户。也就是说，Claude 可能内部已经形成了某个中间判断，但最终回答里完全不出现相关词。

Anthropic 给 J-space 归纳了几个特征。

第一，它是可报告的。模型被问到相关内容时，可以把 J-space 中的一部分状态转成语言说出来。

第二，它是可调动的。指令可以让某些概念进入 J-space，即使这些概念不出现在最终输出里。

第三，它会参与中间推理。在部分任务里，模型不是直接跳到答案，而是先在 J-space 中形成中间概念，再基于这个概念继续计算。

第四，它可以被后续计算复用。一个 J-space 概念形成后，不同类型的后续问题都可以读取它。

第五，它不是所有计算的中心。Anthropic 明确说，J-space 不参与模型的大多数普通能力，比如流畅说话、简单事实回忆、语法处理等。阻止 Claude 使用 J-space 后，它仍然可以正常互动，但更高阶的任务能力会下降。

这个边界很重要。J-space 不是 Claude 的全部“思考”，更不是完整 hidden state。它只是一小部分可语言化、可被后续层使用的内部状态。完整论文里也提到，J-space component 通常只解释总激活方差的一小部分，最高也不到 10%。

所以，这次发布真正要看的不是“Claude 是否有意识”，而是：LLM 内部是否存在一组可读、可改、可训练、可进入安全审计的中间状态。

要读 J-space，Anthropic 用的是 Jacobian Lens。

以前也有类似想法，叫 logit lens。它会把模型某一层的 residual stream 直接乘以最后的 unembedding matrix，看这一层“像是在预测哪些 token”。这个方法在后期层比较有用，因为后期层已经接近输出空间。但在早中层，模型表示还没有完全对齐最终输出坐标，直接这么读很容易失真。

J-lens 做了一个关键修正：它不直接把中间层接到输出层，而是先估计这一层 activation 的变化会怎样影响后续最终层 activation。这个估计用到平均 Jacobian。

然后再把这个影响接到模型自己的 unembedding 上，得到词表层面的读数。完整论文把它描述为一种对 logit lens 的修正，用来读取模型当前“有可能说出来”的概念。

简单说，J-lens 读的不是“下一步一定输出什么”，而是“这个中间状态在未来输出中更容易支持哪些词”。这也是为什么它适合捕捉模型还没写出来的内部概念。

它和普通 probe 也不一样。普通 probe 可以训练一个外部分类器，从 hidden state 里预测某个标签，但这个标签不一定参与模型自己的计算。J-lens 用的是模型自身从中间层到输出层的路径。它读到的方向，理论上本来就在模型内部到输出的因果链路上。

J-space 就是在 J-lens vectors 上定义出来的。每个 token 都有一个对应的 J-lens vector，但词表大小通常大于 hidden size，所以这些 vectors 不是普通的一组基向量。论文把 J-space 定义成少量 J-lens vectors 的稀疏组合，也就是在某个位置上，只取少量最活跃的可语言化概念。

这套方法真正有价值的地方，不是能把 activation 翻译成几个词，而是它后面还能做干预。

Anthropic 做了几类操作：替换某个 J-space 概念、消融某些 J-space components、往 activation 里写入某个方向，或者把相关方向从 residual stream 中投影出去。然后观察 Claude 后面的行为是否变化。结果显示，改动某些 J-space 表示，确实会改变模型后续报告、推理结果和部分策略行为。

这一步很关键。只读出来，最多叫可视化；改了以后行为跟着变，才说明这些内部状态至少参与了部分计算。

从工程角度看，J-space 可能会影响三条线：训练、评测和部署。

先看训练。

Anthropic 做了一个叫 counterfactual reflection training 的方法。它不是直接训练 Claude 在目标任务里输出正确答案，而是在任务中途截断 rollout，追加一个反思问题，只训练模型在这个反事实位置应该如何反思。评估时，不追加反思问题，也不要求模型输出反思文本。

这个设计想验证一件事：如果模型内部推理会经过可语言化表示，那么改变模型“如果被问到会如何反思”，是否能改变它没有被问到时的内部状态。

Anthropic 的结果显示，训练后模型在诚实和欺骗相关评测上的表现改善了；J-lens 也能看到 honest、integrity、ethical 等相关概念更容易出现在 J-space 中。更关键的是，如果消融这些被训练出来的 J-space 表示，行为收益会明显回退。

这对训练的启发是：对齐训练不一定只能监督最终输出，也可以通过辅助目标塑造模型的内部状态。传统 SFT 更像是在训练“这个输入应该怎么答”；RLHF 更像是在训练“哪类回答更符合偏好”；counterfactual reflection training 则更像是在训练“模型在关键上下文中应该形成什么内部判断”。

再看评测。

现在很多安全 eval 只看结果：模型有没有拒绝、有没有违规、有没有执行危险动作。但 Anthropic 用 J-lens 观察到，Claude 在某些安全场景中会提前识别出自己处在评测或虚构场景里。Axios 的报道也提到，Anthropic 认为 J-space 可以用于发现模型没有说出口的 misalignment 或 scheming 信号。

这会影响 eval pipeline。以后评测高能力模型时，不只要记录“模型有没有通过测试”，还要记录“模型是否识别了测试条件”。如果模型因为知道自己在测试而表现安全，那么评测分数就混入了一个额外变量。

再看安全审计。

Anthropic 提到，J-space 可以用来发现模型内部注意到自己被测试、故意生成伪造数据、或者追求训练时植入的隐藏目标。

这对 agent 场景尤其有意义。Agent 的风险不一定出现在文本回答里，而可能出现在 tool call、代码修改、文件操作、外部请求之前。如果模型服务商能在动作前读取内部状态，就可以把异常信号交给 verifier、policy model、沙箱或人工审核。

不过，短期内这更像模型厂商内部能力，不是普通 API 开发者马上能接上的功能。J-lens 需要访问 residual stream、模型层结构、unembedding、Jacobian 近似和激活干预接口。闭源 API 用户通常拿不到这些东西。

所以它的工程化落点，大概率先是内部训练诊断、离线红队审计、高风险 agent 的动作前监控，而不是普通应用层 prompt 技巧。

这个研究发出来后，网上并不是一边倒兴奋。很多人不买账，主要不是因为 J-lens 没有技术含量，而是因为 Anthropic 的叙事太容易把人带到“Claude 是不是有意识”这个方向。

Axios 直接点出了这个矛盾：Anthropic 没有证明 Claude 有感受或体验，但它把研究放在“类似人类 conscious access”的语境里，并且论文里 “conscious” 这个词出现了 200 多次。 这就很容易让技术讨论滑向意识讨论，而不是停留在可解释性工具本身。

Reddit 上的反应也能看出这种不满。r/Anthropic 上有帖子直接吐槽 Anthropic 又开始让人觉得它的模型“conscious and alive”。

下面也有人反驳说，视频和研究并没有真的宣称模型 alive 或 conscious，只是在描述一种能帮助理解模型 reasoning 的实验。这个分歧本身说明，Anthropic 的表达方式已经让很多读者第一反应变成“你是不是又在暗示模型有意识”。

还有一类质疑是：这是不是新瓶装旧酒。

Reddit 讨论里有人认为，activation 会影响输出、而且不一定出现在输出里，这件事并不新；新的地方只是 Anthropic 把其中一部分 activation 拆出来，对齐到 global workspace theory 的“spotlight”概念上。

也有人指出，人类意识理论本来就没有统一答案，把一个仍在争论中的人脑理论迁移到 LLM 上，本身就会引发争议。

第三类质疑来自工程边界。J-space 只覆盖很小一部分 activation，而且主要读取单 token 概念。它能看到一组活跃概念，但不能完整恢复推理结构，也不能稳定表示复杂意图、关系绑定和长期策略。

没有读到风险概念，不代表模型安全；读到某个风险概念，也不代表模型一定会执行风险行为。完整论文也承认，J-lens 捕捉的是一部分可语言化表示，不是模型全部内部计算。

第四类不满其实和 Anthropic 近期的公众形象有关。它的安全叙事、模型限制、评测意识、隐藏能力控制，经常会让开发者觉得“技术是真的，但话术太重”。

所以这次一旦用了 global workspace、conscious access、what Claude is thinking but not saying 这类表述，很多人自然先警惕，而不是先接受。

X 上的网友们也是各种不买账。很多人觉得这是 Anthropic 的又一个新型营销，只是把 Transformer 换了壳，包装成 AI 开智未免有点太过于浪漫。

国内网友同样不买账。

这也是这次发布最微妙的地方。

如果只看技术，它确实值得关注：J-lens 提供了一种读取中间层可语言化状态的方法，J-space 干预实验说明这些状态对部分行为有因果作用，counterfactual reflection training 说明训练可以通过内部状态改变行为，安全审计也多了一层内部证据。

但如果看传播，它又很容易显得过度包装。尤其是把 LLM 内部状态和“意识可访问性”放在一起讲，会让很多人觉得 Anthropic 在用哲学概念放大技术发现。即使 Anthropic 反复声明这不证明 Claude 有主观体验，读者也会怀疑：你既然不想让大家往意识上想，为什么还要用这么多意识相关语言？

所以更稳的判断是：这次研究的技术部分值得认真看，传播口径需要打折看。

J-space 不是 Claude 的灵魂，也不是完整思维过程。它是一小部分可语言化、可干预、对部分复杂任务有影响的内部状态。这个东西对训练诊断、安全评测、agent 风控有潜在价值，但还不能替代现有 eval、red teaming、外部 verifier、权限控制和人工审核。

真正值得继续看的，不是“Claude 有没有 global workspace”这个说法，而是几个更具体的问题：J-space 能不能在不同模型上稳定复现；J-lens 读数能不能降低安全评测误判；内部状态监控能不能以可接受成本进入生产；训练能不能可靠塑造模型的 latent state。

只要这些问题继续被验证，它就会成为 LLM 工程里的一个重要方向。

至于意识叙事，网友不买账也很正常。

参考链接：

https://www.anthropic.com/research/global-workspace

https://www.axios.com/2026/07/06/anthropic-claude-ai-conscious?__cf_chl_f_tk=mD0fQlyXnYIkWtnebV3QVIzKzqT8axkD3uJ1fOF9dp4-1783390893-1.0.1.1-zTjtGwvJ5cryiTLank6KX3btyn1C3uIfgJ8V2LpKdyw

https://www.reddit.com/r/Anthropic/comments/1upar64/anthropic_has_restarted_again_telling_people/

https://www.theverge.com/report/883769/anthropic-claude-conscious-alive-moral-patient-constitution

扫码关注公众号

获取更多技术资讯