杨立昆刚骂完AGI，Anthropic就找到了AGI的证据

本文来自微信公众号：字母AI，作者：苗正，编辑：王靖，题图来自：AI生成

AI到底还是太能往深里挖了，因为Anthropic挖着挖着，发现了一个非常“AGI”，但是细思极恐的事情。

说在Claude里，有一个叫J-space的区域。它会控制Claude思考和推理，一旦没有J-space，Claude会立马变成“人工智障”，只能回答幼儿园水平的问题。

这不是重点，重点是，Anthropic从没有给Claude设计过J-space，一切的一切，都是Claude它自己在长年累月的训练中“长”出来的。

为此，Anthropic发表了一篇论文，标题叫《语言模型中的全局工作空间》。

在这篇论文中，Anthropic虽然探讨了J-space对Claude的影响，并且还专门设计了一个工具，用于观察J-space。可文章写到最后Anthropic也没研究明白，J-space到底是怎么来的。

这就好比咱们人类细胞里的线粒体，绝大多数细胞都靠线粒体供能。

根据研究发现，线粒体一开始并不存在于细胞质中。主流理论认为，线粒体原本可能是一种独立细菌，后来被更大的细胞吞进去，双方形成共生关系，最后成为了如今细胞里的一部分。

可线粒体到底来自哪里，依旧无人知晓。

还没完，就在Anthropic发表这篇文章的前几天，杨立昆才刚刚怼了一把现在的AGI，并在X上写到“AGI里的“G”是胡扯。”

Anthropic在Claude里发现了AGI

要理解J-space是什么，得先从咱们人类自己开始说起。

此刻正在读这句话的你，大脑其实同时在做好几件事，包括调整坐姿、控制呼吸、把屏幕上的线条认成文字。

但是这些事你根本感觉不到，它们在后台自动运行。这个过程叫做“无意识处理”。

但大脑里还有另一类活动，是你能意识到的。

就拿我亲身经历的例子来说明，周一开会的时候，同事提了一嘴“机架”，因为临近午饭时间，我把机架理解成“鸡架”，然后瞬间就感觉到肚子饿了。这个过程叫做“可访问意识”。

Anthropic发现，Claude的内部也出现了类似的分界线。

大部分Claude做的事，比如流畅说话、查简单事实、用对语法，它都是自动处理，像你的呼吸一样在后台跑。

但Claude内部还有一小部分活动很特别。它们不像普通后台计算那样分散，而是会集中到一个可以被读出来的“概念空间”里。Anthropic把这个空间叫作J-space。

J-space里的每一个模式都对应一个词，但这个词亮起来的时候，并不意味着Claude正在“说”这个词，而是这个词“在它脑子里”。

可能这句话有点难理解，我给你举个例子你就懂了。比如你问Claude，能结网的动物有几条腿？它会回答你8条腿。

但研究者在它的J-space里先看到的是spider（蜘蛛）这个词，然后Claude再根据蜘蛛有8条腿，回答你说8条腿。

还有一个非常关键的细节，J-space并不是Anthropic设计出来的，它是Claude在训练过程中自己长出来的。

Anthropic用来观察J-space的工具叫“Jacobian透镜”，简称J-lens。

Claude内部的想法不是文字，而是一大堆数字。J-lens的作用，就是把这些数字翻译成人能看懂的词。

通过这个J-lens，Anthropic的研究员发现，Claude在读一段有bug的代码时，即使没人告诉它哪里错了，J-space里也会冒出“ERROR”这个词；它读一串蛋白质的原始字母序列，J-space里出现蛋白质的生物功能；它读到搜索结果里藏着提示词注入攻击，J-space里会亮起“injection”和“fake”。

但最有说服力的实验，是“偷梁换柱”。

回到刚才蜘蛛的那道题，研究者没有改题目，而是把J-space里的“spider”换成了“ant”（蚂蚁），Claude的答案立刻变成了“6”。

另一个实验里，“France”在J-space里亮起来后，Claude能回答法国的首都、货币、所在大洲。研究者把“France”换成“China”，所有答案也都跟着变了。

这说明J-space不只是记录结果，它参与了后续推理。

Anthropic总结了J-space的五个特征，每一个都对标人类认知科学里“意识可访问信息”的性质：

1.Claude能报告J-space里的内容（你问它在想什么，它会说出J-space里的词）。

2.它能在要求下主动调动J-space（让它默默心算，J-space里就会出现算术过程和中间结果）。

3.它用J-space做内部推理。

4.J-space里的一个概念能灵活地服务于多种任务。

5.J-space是有选择性的，大部分Claude做的事根本不经过它。

为了研究J-space对Claude的影响，研究者把J-space暂时关掉，发现Claude还能回答简单问题，比如认情绪、答常识、判断语法。

但一遇到需要多步思考的任务，比如推理、类比、翻译、写诗，表现就大幅下降。也就是说，J-space很像Claude的“草稿纸”，不用草稿纸的小事还能做，可需要草稿纸的复杂题就回答不出来了。

种种迹象都在说明，J-space和人类的思考方式有相似之处，但前面也说了，这并不是Anthropic有意为之，甚至都没有做过类似的设计，一切都是Claude自发形成的。

那说到这里，就不得不提一嘴AGI了，因为J-space非常像是Claude接近AGI的一种证明。

过去我们判断模型是不是AGI，主要看外部表现，比如能不能做数学题，能不能写代码，能不能通过考试。但是现如今，Claude“长”出J-space的这种自发性，很可能才是AGI。

模型强，不只是因为它输出更像人，而是因为它内部可能已经形成了某种可复用的思考结构。它能暂存概念，承接中间结果，把不同信息组织到一起，再影响后面的回答。

就像我们有眼睛鼻子嘴一样，J-space很可能就是AGI的一个“器官”。没有它，模型还会说话；有了它，模型才更可能把语言、知识和推理串成稳定的思考过程。

杨立昆在X上把AGI怼了个底朝天

好巧不巧。

就在Anthropic发表J-space论文的前几天，图灵奖得主、深度学习三巨头之一的杨立昆（Yann LeCun），在X上把AGI这个概念怼了个底朝天。

时间线是这样的，2023年的时候，杨立昆在巴黎的VivaTech科技大会上接受采访，公开说ChatGPT、Claude和Gemini“不是通向人类级智能或类人智能的道路，甚至连动物级智能都算不上，因为它们无法处理真实世界的数据，它们根本不是为此设计的”。

到了今年6月的VivaTech，杨立昆又再次重复了这个论调。

7月4日，他在X上表示，称“The G in AGI is nonsense.”（AGI里的“G”是胡扯。）

杨立昆认为，会考试不等于有智能。 硅谷的逻辑是模型过了律师考试、数学竞赛、博士题、编程benchmark，所以接近AGI了。

但杨立昆表示，考试题是语言化的、离散化的、答案明确的任务，恰好是大语言模型最擅长的东西。可真正的智能还应该有感知、物理直觉、因果理解等等这些来自于常识的能力。

他曾在采访举过一个例子。杨立昆拿起一支笔，把它竖立在笔尖上，问：“松手会怎样？任何一个小孩子都知道笔会倒。但没有人会去猜笔往哪个方向倒——因为没法预测，取决于太多物理细节。”

“一个大语言模型会怎么做？它会根据训练数据里的统计模式，生成一个看起来合理的预测。但那个预测几乎肯定是错的，因为它不是在推理物理现实，而是在做统计补全。”

杨立昆认为，Agent应该通过观察世界，学习世界如何变化，然后在内部做预测、做规划，最后采取行动。

大语言模型虽然学到了大量语言和知识模式，但在杨立昆看来，这不是在理解世界本身，只是一个用来交互的界面而已。

杨立昆在2025年底离开了Meta，创办了AMI Labs（Advanced Machine Intelligence Labs），总部在巴黎，2026年3月拿了10.3亿美元的种子轮融资，是欧洲历史上最大的种子轮，投资方包括英伟达和贝索斯。

AMI Labs做的就是用JEPA架构，让AI系统从感知数据中学习因果和规划。

还有一点，杨立昆不认为继续scaling就会自动AGI。

事实上，无论是OpenAI，还是Anthropic，大家都认为继续去堆算力、堆模型性能，AGI就会自动涌现。

可杨立昆却觉得这条路会撞墙。他的观点是，语言数据不够承载真实世界的全部，纯自回归预测也不是一种高效的推理方法。

最后，比起反对AGI，杨立昆更讨厌硅谷“AGI毁灭人类”的末日论。

杨立昆经常给马斯克、辛顿、阿莫迪等人唱反调。不是因为他觉得AI永远没风险，而是因为他认为当前系统离真正自主的智能还差太远。

在他看来，把今天的大语言模型描述成即将失控的AGI，是严重给AI“抬咖”。基于这个观点，杨立昆还警告称，AI泡沫终究会彻底破裂。

不用猜也知道，杨立昆在看了J-space的论文后，肯定又在暗地里骂阿莫迪没水平了。

本文来自微信公众号：字母AI，作者：苗正，编辑：王靖