比超级智能更先到来的，是超级愚蠢

本文来自微信公众号： 不懂经 ，作者：经叔，原文标题：《比超级智能更先到来的，是超级愚蠢｜不懂经网站》

几个月前，claude母公司Anthropic的联合创始人杰克·克拉克（Jack Clark），上了美国公共广播电台的节目Planet Money。主持人问他，生成式AI会给社会带来什么。他说，我不知道该怎么回应。然后他讲了个故事。

他说，一百年前，英国作家C.S.刘易斯（《纳尼亚传奇》的作者）写过一本书，叫《魔鬼家书》。地狱里有个级别很低的小鬼，负责腐蚀地球上的一个普通人，他定期给上级写汇报。

有一封信里，小鬼难掩兴奋：好消息，我的人类拿到了一项新发明，叫电话。以后每当他独处、眼看就要反省自身的时候，他就会拿起电话打给朋友。他又朝地狱靠近了一步。

这个故事讲得流畅、动人，寓意分明，几乎就是为AI时代量身定做的：技术诱惑人堕落，从独处的消失开始。

只有一个小问题。这个故事几乎每个细节都是错的。《魔鬼家书》不是一百年前写的，是1942年。写信的也不是小鬼，是地狱里资历更老的叔叔；收信的，才是那个负责腐蚀人类的新手小侄子。《魔鬼家书》的"家"，说的就是这层叔侄关系。至于电话，全书从头到尾没有出现过。节目播完，主持人不得不在节目里口头补了一条更正。

这件事是《金融时报》专栏作家蒂姆·哈福德（Tim Harford）在今天的新专栏里翻出来的。他自己又往下追了一步：刘易斯确实抱怨过收音机，在一封私人信件里建议想躲开上帝的人，就"让收音机一直响着"。

更有意思的，哈福德把这句话粘进谷歌，想找原始出处。搜索结果还没出来，谷歌的Gemini先答了：你引的是《魔鬼家书》。

又错了。那句引文其实写于《魔鬼家书》出版之后二十年。

所以，一个AI公司的创始人，在公开场合讲了一个流畅动人的错误故事；一个专栏作家去核实，被另一个AI用新的错误拦在半路。

这看上去是一个科技圈的趣闻，但它也是我们正在进入的这个时代的一个切面和标本：这个时代最新的愚蠢长什么样，从哪里生产出来。相比之下，"AI会不会让人变笨"的争论，从ChatGPT发布起就没停过，其实是一个肤浅的问题，或是是一个愚蠢的问题。

AI教育焦虑：中国家长疯狂加码的方向，美国富人却正在退出｜不懂经网站

我们对AI之后发生的事还一无所知｜不懂经网站

一、无知只是空白，愚蠢则是构建起来的

我最近看到一篇文章，作者是大名鼎鼎的圣塔菲研究所的复杂系统科学家大卫·克拉考尔，题目很直白：是什么让人类愚蠢。

他从一个看上去很愚蠢的现象说起：没有人会骂一块石头蠢。河流不蠢，飓风不蠢，恒温器也不蠢。他说，愚蠢其实是一种相当高级的行为，低级的东西没资格参与。

这跟直觉相反。我们习惯把愚蠢理解成智力的缺席，仿佛从一个人身上抽走思考，剩下的就是愚蠢。克拉考尔说，不对。智力是把一个难度为X的问题变容易，愚蠢是把这个本来就难的问题变得更难。而把问题变难最可靠的办法，是搬来一套精妙的装置：复杂的理论，繁复的信念，听起来头头是道的算法。效果还不如什么都不做。

一个不知道答案的人，只是无知。一个给错误答案写出一百页论证的人，才是愚蠢。愚蠢是智力的作品，手艺越高，作品越惊人。

奥地利小说家罗伯特·穆齐尔（《没有个性的人》的作者）1937年就把这两种东西分开了。一种他叫"体面的愚蠢"，就是跟不上一段难懂的论证。这不可怕，人人都有。可怕的是另一种，"聪明的愚蠢"：调动全部智力资源，为一个错误服务。一个学生看不懂数学证明，不蠢。一个数学教授为了捍卫一个小孩都看得出是错的命题，盖起一座优雅的理论大厦，这才是聪明的愚蠢。

这种样本，历史上从来不缺。1895年，英国最受尊敬的物理学家开尔文勋爵（当时皇家学会会长）郑重断言：比空气重的飞行器，不可能。论证很硬，地位更硬。八年之后，莱特兄弟的飞机上了天。

回到克拉克。他不是没读过刘易斯，人物、通信、寓意，他都有印象。问题出在每一处模糊的地方，他都补上了一个最合理的细节：书该是一百年前写的，小鬼该向魔头报喜，电话该出现在那个故事里。每个补丁都合情合理，合理到他在台上讲得没有一丝迟疑。智力全程在岗，只是全部用来给一个不存在的故事做了精装修。

说回克拉考尔的定义，他顺着往下推，推出一条规律：愚蠢的上限，与智力同步增长。细菌谈不上蠢，猫狗只能小规模地蠢。人有语言、抽象能力和制度，所以能在文明的尺度上蠢。于是，可以说：超级智能就是或将是超级愚蠢的序幕。

这个推论可能很反直觉。既然造一座像样的错误大厦需要智力，那么当一种东西把智力变成自来水，拧开就有，错误的大厦就会进入成片开发。

只是，这里有一个历史上从不成立的条件。聪明的愚蠢本是奢侈品：造一座错误的大厦，需要一个聪明人几个月的智力投入，所以它零星、昂贵、总有人围观。大厦盖歪了，砸到的也是局部。

无知本来无害，它自己知道自己缺什么。加工过的无知才致命：它有结构，有论证，有细节，态度诚恳，只是全错。

这样的东西，AI之前从来没有过。现在有了。

二、我们的聪明集体过期了

关于ai让人变笨的叙事，有一个隐藏的假设，即错误出在人的内部，能力退化了，脑子生锈了。克拉考尔的框架里没有这一层。他给的机制在外面：环境变了，旧规则还在跑。

以飞蛾扑火为例。飞蛾在夜里飞行，靠的是对远方的月亮保持一个固定角度。这套导航系统运转了几百万年，稳定、可靠，几乎不占用神经资源。后来人类发明了蜡烛和电灯。飞蛾习惯对月光保持固定角度，导致它绕着近处的光源打转，越转越近，最后栽进去。

飞蛾扑火不是导航系统坏了，恰恰相反，系统运转依然完美，它只是还在执行一条好规则，而世界已经换了。

其他还有，海龟宝宝出壳之后靠月光反射的海面亮光认路下海，一亿年没出过错。现在它们爬向的是海滨公寓的灯光。信天翁在海上世代捕鱼喂雏鸟，现在从浪里叼起来的，是打火机和瓶盖。

人类手里那几条现役的判断规则，同样是旧的，同样也曾经可靠。

讲得流畅的大概率靠谱。这条规则在"撒谎很贵"的时代是成立的：编一个完整的故事要花力气，还容易留下痕迹，所以流畅本身是一种抵押。现在流畅免费了，机器张口就来，成本为零，抵押没了。

自信的大概率可靠。过去一个人对自己越有把握，多半意味着他为此付过学费，错过、疼过、被现实校准过。现在自信也是免费赠品，任何观点都能得到斩钉截铁的表达。

拿到答案，约等于理解了。这条规则在过去也大体成立，因为答案稀缺，获取答案必须经过你自己的加工：去读、去找、去消化。这个过程本身就是一遍粗筛。现在答案随手可得，筛子没了。

不是人在变笨。是我们的聪明集体过期了。

这不是"每一代人都担心新工具"的老故事。那种叙事讲的是能力退化：文字削弱记忆，印刷杀死专注，每一次都有人哀叹，然后被历史部分证伪。这里的区别在于：衰老是个体内部的退化，过期是规则与环境的关系。

愚蠢是一种时差：规则还是那条规则，世界已经不是那个世界。

这个视角还有一个吊诡的地方。直觉最可靠的人，恰恰摔得最重。一个在旧环境里从没被直觉辜负过的人，最敢不加检查地依赖它。

克拉克的智力和他在AI圈的地位，正是让他敢把那个故事讲得那么笃定的资产。越聪明，越敢信自己；越敢信，翻车越重。变笨叙事解释不了这个方向：笨人不会犯这种错，这种错需要胆量，而胆量是聪明喂出来的。

AI时代最危险的错觉2.0：为什么“专家”的经济护城河正在迅速消失｜不懂经网站

比AI信息垃圾场更可怕的，是它正在制造的这条高概率走廊｜不懂经网站

三、不在乎真假，是无能还是无力？

那么，我们至少会警惕吧。毕竟关于AI幻觉的警告已经讲了三年，人人都"知道"它会一本正经地胡说。

不过，问题没那么简单。仔细想想，生成式AI的真实风险，不是我们完全相信它，是我们不再在乎到要去检查它。

这两个状态经常被混为一谈，其实隔着一条沟。前者是信任问题，后者是精力问题。现在没有多少人真的信AI不出错，怀疑早就普及了。但怀疑普及之后，检查并没有跟上。它停在理论层面：我知道它会编，遇到关键的再说。

至于什么算关键的，不知道，因为还没遇到。理论上怀疑，实践上依赖，这就是现状。怀疑不再通向任何动作，它只是让人心安理得地继续。

金融时报的哈福德在专栏里用刘易斯的体例，替地狱里的叔叔又写了一封信。信里教的办法很具体：不要去说服那个人机器是万无一失的，这太粗糙，很快会被戳穿。要让他保留怀疑，但把怀疑养在理论层面，不让它落地成对具体事实的核对。要把他的怀疑慢慢腌成犬儒，那是最好用的东西。让他觉得核实是书呆子才干的低效劳动，配不上他的时间。让他享受他的懒惰，并称之为生产力。人类历来分不清有答案和找到真相，让他继续分不清。That's the game.

这封信是伪造的，但它令人信服，你会觉得魔鬼确实会这么干。刘易斯的原版信，诱惑靠的是修辞；哈福德的仿信，诱惑靠的是它对读者状态的描述太准。你怀疑AI，但你今天核实过它说的任何一句话了吗。

当怀疑只停在理论层面会发酵成什么？犬儒。

犬儒就像是怀疑的退休状态：机制还在，但不再工作。一个犬儒主义者对一切信息都保持一个姿态，即”都有可能是假的“。这个姿态让他免于被骗，也免于核实，顺便免于理解。他不会被骗，因为他谁也不信；他也不会知道任何事，因为核实是书呆子干的事。

把这一层和ai时代的答案通胀放在一起，就形成了完整的闭环。

社会本来靠"解释分工"运转。你不懂免疫机制，但你孩子发烧时，儿科医生给你一个"流感引起发烧"的解释，你据此行动。这个安排安全，因为你清楚那个解释长在医生的脑子里，你只是借用。界线是清楚的：谁懂，谁不懂，各自心里有数。

AI把这条界线模糊掉了。解释变得免费、即时、随叫随到，"我有个解释"和"我懂了"之间的距离，肉眼可见地缩短。心理学研究早就发现，仅仅是知道一份解释存在于自己够得着的地方，人就会高估自己的理解：同一份说明，能免费看到的人，比要付费才能看到的人，自认为懂的比例更高，尽管谁都没有真正打开它。一位写了十几年博客的人说得最直白：我现在知道的东西比任何时候都多，但我感觉自己变笨了。

答案不值钱之后，稀缺的是知道自己不知道。

然后是最后一环。克拉考尔把危险说到了根上：AI出错本身，从来不是最危险的部分。人类一直在出错，所以才发明了科学方法、同行评审、核对引文这一整套纠错机制。危险的是，AI开始以人类无法察觉的方式出错，因为负责察觉的那部分能力，先被外包出去了。你不再检查，不是因为你检查不了，是因为检查这个动作在你的生活里已经没有位置。

《银河系漫游指南》里那个著名的玩笑：超级计算机算了七百五十万年，得出生命、宇宙以及一切的终极答案是42。为什么是42，没人知道，计算机说，你们要先理解问题本身。一个连"为什么是这个答案"都问不出来的文明，拿到什么答案都一样。

我们没有失去判断力。我们失去的是使用它的理由。答案随手可得，检查显得迂腐，在乎成了奢侈品。受益者和受害者是同一个人，所以没有人喊停。这才是愚蠢共谋的完整形态：它不需要任何人批准，只需要每个人都觉得，反正也就这样了。

最后一代靠工资进入资产阶层的人，正在被终结

当AI替你完成了工作，一个人要靠什么能力被市场付钱？

四、理解愚蠢，是我们能做的最聪明的事

把时间拉长看，认真对待愚蠢的人，其实一直有一条线。

1511年，伊拉斯谟写《愚人颂》，为愚蠢翻案：没有自欺和过度自信，人类任何伟大的事都不会有人去尝试。愚蠢是成就的引擎，问题只在于一个文明产生的愚蠢，能不能被它自己熬过去。

1726年，斯威夫特在《格列佛游记》里画了拉加多科学院：研究员们从黄瓜里提取阳光，把大理石软化成枕头，培育不长毛的绵羊。方法严谨，流程完整，产出为零。这是对"系统性误用智力"最早的漫画。

1937年，穆齐尔区分体面的愚蠢和聪明的愚蠢。

1943年，纳粹监狱里，一位神学家在信纸上写下：愚蠢不是认知缺陷，是一种被强加的社会结构。人在权力的蛊惑下会自愿交出独立判断，变成"愚蠢"的工具。他观察到的现象是，对抗这种愚蠢，靠讲道理没用，因为对方的智力已经被借走了，你面对的阻力是借来的。

1976年，一位意大利经济史学家写了本小册子，叫《人类愚蠢基本法则》。定义很精准：愚蠢的人，是让别人受损、自己也不得利的人。他还提出一条定律：愚蠢之人的比例，在所有人群里恒定，教授和清洁工一样。克拉考尔顺着这条线往前补了一刀：比例恒定，威力不恒定，复杂性每上一个台阶，愚蠢的当量跟着翻倍。

五百年来，从这个列表能看出来一件事：这些人里没有一个是"愚蠢研究"的从业者。小说家、讽刺作家、神学家、经济史学家、囚徒。愚蠢学从来没有过院系、期刊、预算和职位。

这个空缺不是偶然的。智力研究许诺的是增强我们：更聪明的大脑，更强的机器，更准的预测，听的人有获得感。愚蠢研究要求的是承认我们自己就是研究对象，还得承认研究它的那笔经费，大概率也是打水漂的。前者有人排队资助，后者就只有那些不怕尴尬的人偷偷认领过。

克拉考尔的提议就建立在这个空缺上：我们需要一门和智能科学一样严谨的愚蠢科学。不客气地翻译一下，至少要回答三个问题：聪明的系统，如何产出愚蠢的结果；什么样的制度条件下，集体智能会退化成集体愚蠢；什么样的工具在增强认知，什么样的工具在替换认知。

第三个问题现在离我们最近。AI的那个对话框，是增强还是替换，界线不在产品说明书里，在使用者的手上。同一个工具，一个人拿它垫在思考下面，另一个人拿它代替思考，产品经理分不出这两种用户，仪表盘上也看不出区别。界线消失的位置，正是愚蠢科学要开始工作的位置。

在一个痴迷于更强认知技术的世界里，理解愚蠢，可能是我们能做的最聪明的事。【懂】