AI 正把文化变成黑暗森林：谁先暴露想法，谁先被狩猎

本文来自微信公众号： 不懂经 ，作者：不懂经也叔的Rust

刘慈欣在《三体》里提出了著名的黑暗森林理论，大部分人记住的是猎人：每个文明都带枪，猜疑链锁死，谁先暴露谁先死。这个词先是被借用到互联网，现在轮到了知识生产，猎人手里拿的是ai大杀器。

“你为什么要毁掉自己的职业生涯？”

纽约大学数学家特里斯坦·巴克马斯特（Tristan Buckmaster），在一份公开声明提到这句话。按照他的记述，9月6日，当他表示可能公开与OpenAI的争执时，对方是这么回应他的。

一场数学研究的讨论，怎么走到了谈论职业生涯会不会被毁掉的地步？

事情要从他的合作者说起。莱文特·阿尔珀格（Levent Alpöge）也是数学家，供职于Anthropic，openai的死对头。但两人强调，这是他们的私人合作。他们沿着前人开辟的流体爆破研究路线，借助Claude、Codex等模型工作了近一年。巴克马斯特自己还在用研究经费支付AI工具的账单。

到了8月，他们在带光滑外力的Euler方程等问题上取得了进展，却还没有交出纳维尔－斯托克斯千禧年问题的完整解答。简单说，这一类研究要追问：描述流体运动的方程，在怎样的条件下会出现有限时间内的“爆破”？他们已经登上重要的台阶，也看到了继续向前的方向，但还在把模型生成的证明整理成人能读懂的论文。

这个消息先泄露了出去。

OpenAI后来在自己的公告里承认，9月1日听到了有人解决千禧年难题的传闻，因此启动了对多个难题的研究。自家系统在Euler问题上取得结果后，公司又把资源集中到纳维尔－斯托克斯问题。按公告，产出这项结果的小组涉及约一万个并发AI智能体，从启动到得到结果，花了约88小时。随后，OpenAI宣布得到了这道千禧年问题带光滑外力版本的解答，并完成了形式验证。

两位研究者还在打磨论文，一家公司的研究机器已经全速运转。更强的内部模型、上万智能体和可以迅速调动的资源，几天之内就把竞争推到了另一个量级。

两位数学家追了一年才摸到台阶。一万个智能体用了五天，把台阶踩完了。接下来，双方开始争执谁来发表、怎么署名。

据巴克马斯特的声明，对方提出过让他执笔介绍OpenAI结果的方案，却要求把阿尔珀格排除在署名之外。这条署名条件，取决于他的合作者在哪家公司工作。巴克马斯特拒绝了。当谈话转向他是否会公开这件事，才有了开头那句关于“毁掉职业生涯”的话。

OpenAI这项研究的负责人、数学家塞巴斯蒂安·布贝克（Sébastien Bubeck），后来在接受《纽约时报》采访时否认自己意在威胁，称那些提议是为了帮助巴克马斯特。但他也承认，公司希望那篇OpenAI项目论文不包含阿尔珀格，给出的解释正是对方供职于Anthropic。这场署名争执，涉及的是拟议中的OpenAI结果论文。

对巴克马斯特来说，还有一个更难放下的疑问。他们一直把研究草稿放进Codex，提供工具的公司如今成了研究竞赛的参与者，那些会话有没有影响对方的模型？OpenAI否认在两人公开之前看过他们的工作，9月10日又更新公告，称调查确认，9月8日之前两个月的Codex提示不可能以任何方式影响该系统，包括训练。

私人数据有没有被使用，大家肯定都有感觉。但另一个事实已经被OpenAI自己确认：这次投入，是在听到别人可能取得突破的消息之后启动的。

他不必先证明有人偷过论文，才有理由担心。只要别人知道“这里可能快做成了”，就能调来他无法匹敌的资源，公开进展本身便可能缩短他继续探索的时间。工具可以帮他研究，经营工具的公司也可以下场研究；两种角色之间的利益，并不会自动一致。

神经科学家出身、人气很高的美国专栏作家埃里克·霍尔（Erik Hoel），最近就这件事发表了一篇文章，认为ai正在把文化变成黑暗森林。他把上述这类处境与刘慈欣小说里的隐喻联系起来：暴露一个尚未完成的方向，也可能向更强的竞争者发出狩猎的信号。

公开讨论曾经是思想的养分，现在却成为了猎手的坐标。

数学，是人类最没有商业气、最依赖公开协作的事业，却率先变成了黑暗森林。

我之前写过一篇文章《黑暗森林3.0》，讲互联网的公共广场怎么一步步变成黑暗森林。那篇说的是普通人，被算法收割，被网暴吓退，躲进私人群聊。今天要说的是另一片森林，主要生长在生产侧。科学家、数学家、写作者，这些靠想东西吃饭的人，正在经历同一件事：他们不敢把没做完的想法给人看了。

不过，有想法的人可以选择晚一点开口，只跟少数可信的人讨论。那些还没有成熟想法、缺少关系和资源、一直依靠公开讨论学习的普通人，又面临着怎样的命运？当人类文明真的成为一篇黑暗森林，我们是否要选择成为面壁者？

思想暗战：要生存，就不要声张

过去，一个人公开自己的构想，并不等于把成品交了出去。

听到一个研究方向，距离完成论证还有许多工作；知道有人打算做什么产品，距离理解用户、写出代码、把它卖出去，也有不短的路。实现所需要的时间和精力，给原创者留出了继续推进的余地。你可以边做边谈，从反馈里修正错误，也从讨论里寻找同伴。

必须看到，这段余地正在一些领域迅速缩小。AI降低了接续别人工作的成本。一个尚未成熟的思路，在你这里需要反复摸索，到了拥有更多算力、人才和渠道的人手里，可能很快变成另一个版本。

不必假定AI已经无所不能，这种风险就会影响行为。只要竞争者能够更快做出一个足以争夺注意力、客户或首发位置的版本，原作者就得重新衡量提前公开的代价。

这里有一个容易混淆的地方。知识可以共享，同一个好想法能被许多人使用，甚至因为被使用而长出更多价值。但是，谁先发表，谁获得声誉，客户最后向谁付款，并不会自动按照贡献大小分配。

思想可以被共同使用，创造思想的人却可能失去回报。

也正因为如此，要求一个创作者无条件开放，往往很轻松。承担风险的是他，享受开放好处的是所有人。等到他的工作被抢先、收入被挤压，公共世界通常不会回来补偿他。

如果把自己放在那个位置上，就不难理解沉默的诱惑。文章先写完再说，产品先做出来再说，研究先拿到可以确认的成果再说。讨论仍然发生，只是参与者变少了，公开的时间变晚了。

公开当然还有另一面的收益。它能留下贡献记录，找到合作者，建立读者和用户关系。有些工作越早分享越有利，有些工作需要先保护关键细节。黑暗森林的压力，就藏在这种逐项计算里：一个人越来越难放心地说出“我还没想明白，你们帮我看看”。

这句话曾经是一种很有价值的文化活动。

因为许多值得发展的想法，在刚出现时都不好看。它们可能表述不清，证据不够，甚至带着一个后来需要纠正的错误。参与讨论的人未必直接给出答案，有时只是指出一个反例，问一句意料之外的话，就让整个方向转了过去。

有些观念天然就比另外一些难以传播。因为传播需要被迅速理解、复述和转发，而一个复杂想法的价值，可能要在足够多的上下文里才显出来。流行程度与思想质量之间，没有天然的等号。

黑暗森林又为这种成长增加了一重压力。你既要让别人理解一个尚未完成的东西，又要防止它过早变成竞争者可以调用的资源。于是，小范围讨论变得更有吸引力。在那里，你可以解释很久，可以承认失败，可以暂时不把每句话都说得像一个可以传播的结论。

这种保护会带来真正的创造，不能一概指责它。但它也把一部分成本留给了公共空间。

文章仍然发表，产品仍然上线，论文仍然出现。外面的人看见的是经过整理的成果，却较少看见它曾经如何摇摆、在哪里碰壁、被谁的一句话改变过。一个人从公开讨论中学到的，原本包括这些看起来不够成功的部分。

我们很容易把知识生产想成往仓库里增加成品。多一篇论文，多一个软件，多一本书，仓库就更丰富。可知识还需要培养能够继续生产它的人。成品增长，与后来者的成长，并不总是同一件事。

如果一个新人只看得见答案，很少有机会接触问题怎样提出、证据怎样筛选、错误怎样被发现，他得到的知识再多，也可能不知道下一步该往哪里走。

这正是个人自保开始转化为公共后果的地方。不过，在讨论后来者之前，还有一个更紧迫的问题：就算成功保护了自己的想法，今天靠脑力劳动生活的人，明天又靠什么生活？

马斯克：27年底，AI将砸碎所有智力工作者的饭碗

从AGI到后工作时代：我们将如何穿过这最危险的十年

当思想不宜公开，智力工作者如何生存？

我在前不久的文章《如何对冲人工智能》里讨论过，马斯克最近的一项预测：到2027年底，AI将能够以超人类水平完成不需要塑造原子的数字任务。换句话说，只要工作主要发生在屏幕上，通过排列比特来完成，他认为机器很快就会越过人类。

预测归预测，数字任务上的能力突破，距离可靠部署、替换业务和取消岗位，还有不同的环节。没有必要把一个年份当成已经签发的失业通知书。但靠智力工作生活的人，也不能只等着那一天被证明准确或错误。

可以先把问题推到极端：假设AI比你聪明，比你快，能够写出更好的方案，也能完成你大部分日常任务，保密还剩多少保护作用？

它能保护一段时间差。可是，别人即使完全不知道你在想什么，也可能借助AI独立做出相似成果。你保住了秘密，却未必保得住价格。你完成了一件过去很难完成的事，随后发现，能够完成它的人已经多了起来。

到了这里，“继续提高生产效率”就只回答了一半问题。效率当然要提高，但每个人都在提高，市场未必按你的努力程度支付溢价。

事情做成以后，什么会留在你手里？

我以前谈过，ai时代重要的是拥有定价权，并区分过产出与回报。把一项服务做成产品，建立直接接触用户的渠道，让一次劳动可以服务更多人，确实能改变收入结构。现在需要再向前追问：那个产品本身，会不会很快也被复制？

一份模板、一套课程、一段代码，都可能经历同样的降价过程。把文件挂上售价，并不意味着定价权已经属于你。

设想一个做小工具的人。他发现某类小商家每晚都要花时间核对订单，于是用AI做出了一个自动整理的程序。过去可能需要一个团队的工作，现在一个人就能试起来，这是实实在在的机会。

问题出现在第一次交付以后。用户把订单传过来，字段不一样；有些退款没有及时记录；店员绕过了系统，老板又拿另一张表作为依据。程序可以继续修改，但究竟应该改什么，要从实际使用里才能看见。

AI完全可以帮助分析这些问题，甚至做得比开发者更好。可开发者是否有机会接触到真实情况，用户是否愿意反馈，出了问题谁来处理，做出了效果以后双方怎样继续合作，这些条件不会因为代码生成完毕就自动成立。

如果每次交付都让他更了解这类业务，留下可以核对的效果记录，获得下一次试验的机会，也让客户愿意继续合作，那么他正在积累一些东西。它们仍可能被竞争者赶上，但至少不会随着这一份代码交出去，就全部归零。

如果每次任务都只是在平台上接单、交文件、收一笔钱，然后失去与使用者的联系，他就更容易被下一轮报价拖走。即使一天能交付过去一周的工作，也可能只是更快地跑进同一场价格竞争。

对职场里的知识工作者，这个问题同样具体。你的分析有没有被真正使用，项目改善了什么，贡献能不能被识别，你是否有与责任相称的权限，结果又如何影响收入与下一次机会？这些事情，常常比多掌握一种工具更难，却不能一直留给别人决定。

只增加责任，授权和回报却一点没有增加，算不上生存位置的改善。把“人负责兜底”说成AI时代的最后优势，有时只是把风险留给了人。

所以，我不愿意给出一张“AI永远做不到”的能力清单。判断、品味、创意、共情，都值得培养，也都可能得到机器的帮助，甚至在某些任务上被机器超过。今天找到一块暂时安全的地方，不能保证明天仍然安全。

更实际的方向，是在使用AI的同时，增加自己能够继续行动的条件。掌握一类真实需求，参与一段持续合作，留下可被验证的记录，争取合理的收益安排，并且保留换工具、换渠道、换合作方式的余地。

这里不需要人人辞职创业。工资、项目回报、晋升机会和稳定合作，都可以是积累的形式。关键在于，这一次能力提升，究竟扩大了你的选择，还是只提高了别人对你的要求。

我写“知识套利已死，叙事者永生”时，讨论过知识、叙事与信任之间的关系。放到今天，叙事还需要经得起行动的检验。讲得好听变得越来越容易，别人为什么仍愿意把一件事交给你，要靠一次次合作来回答。信任会损耗，关系会变化，没有哪一种身份能替人永久保值。

一个人借AI能完成更多事情，也更需要认真选择与谁一起做。可靠的同行能够提供反馈、带来互补的经验，让试错不必每次都从零开始。有限范围内的合作，可以成为个体在黑暗森林里的生存方式。

但写到这里，问题又回来了。

已经有客户、有声誉、有同行的人，比较容易组成这样的合作。一个刚毕业的年轻人，一个准备转行的人，一个在家独自学习的人，怎么找到自己的位置？如果答案总是“先进入一个可信的圈子”，他连进入圈子的第一步都没有。

对已经在里面的人，边界保护了探索；对还在外面的人，同一道边界也可能挡住成长。

旧系统在清盘，越来越多的有钱人开始付费退出

战略性无知：真正有判断力的人，已经不看信息了

普通人将面临一道看不见的信息结界

技术作家文卡特什·拉奥（Venkatesh Rao）长期观察互联网中的公共讨论与私人社群。他曾经把黑暗森林的隐喻又向前推了一步，提出了死亡森林的观点：一个成熟的小群体，逐渐拥有自己的讨论节奏、共同经历和判断背景。外面的人能够看见它的作品，却不一定与它处在同一个正在展开的当下。

这个说法比“有人掌握了秘密信息”更接近问题的深处。

秘密文件可以公开，一段聊天记录可以流出。但是，一个群体为什么放弃了某个方向，为什么不再相信一个看起来很漂亮的数据，为什么某个不起眼的问题突然变得重要，往往要放回此前的讨论与实践中，才看得懂。

当然，这些东西可以被解释，也可以通过新的参与重新学会。真正的问题是，谁有动力解释，谁愿意给你机会，又有多少这样的机会仍然留在公共空间。

互联网向群聊、私人社区和有限范围协作的迁移，早于这一轮生成式AI。公开表达的声誉风险、注意力竞争和平台环境，已经使一部分人减少公开讨论。AI为这件事增加了新的推力：在公开场合展示一个未完成的方向，可能同时向竞争者提供了一条行动线索。

当公开的收益与风险这样变化，个人并不需要约好一起撤退。每个人少讲一点、晚讲一点，只把经过整理的部分拿出来，公共空间里的内容就会随之改变。

它甚至可能更热闹。已经完成的产品需要宣传，成熟观点需要传播，商业服务需要找到买家。能被快速理解、转发和消费的表达，不缺继续出现的理由。

缺少理由留在外面的，恰好可能是那些很难迅速兑现回报的东西：一次尚无结果的追问，一段走错方向的讨论，一个需要共同尝试才能看清的问题。

结果是，公开世界仍然不断告诉你“有什么”，却较少让你参与“它是怎么变成这样的”。

一道信息结界可以没有付费墙。你能看见越来越多的成果，却越来越难进入成果形成的过程。

对普通人来说，这种变化首先伤害的是学习。

一个初学者读到高手的文章，得到一个条理清楚的结论。他可以让AI解释术语、补充背景，再把全文整理成自己的笔记。这些帮助都是真的，过去很高的学习门槛确实被降低了。

但假如他只看得到完成后的解释，就容易低估做出判断时的混乱。他不知道作者曾相信过什么，什么证据让作者改了主意，也不知道哪些看起来有道理的路已经走不通。等到自己碰到一个稍有不同的问题，那份整齐的笔记未必能告诉他，究竟是哪一步需要重新想。

AI可以陪他推演不同路径，可如果问题来自具体业务、研究或生活，他还需要在那里得到反馈。模拟可以帮助准备，真正的反馈才能检验这个准备是否有效。

这也是为什么，拥有更多解释，有时仍然没有带来更多把握。

再往下，是问题本身的差距。一个人可以每天接收新的文章、新的课程和新的工具，却始终在追赶别人已经整理好的答案。那些决定接下来往哪里走的讨论，他没有机会参与。外面的内容每天换封面，里面的问题已经换了一轮。

如果这种状态持续下去，人就可能产生一种奇怪的停滞感。他明明很勤奋，收藏夹不断增长，模型也不断升级，可真正轮到自己决定做什么、相信什么、放弃什么时，还是只能去找下一份答案。

我说的信息环境被冻结，指的就是这种处境。屏幕上的内容没有停止变化，一个人用来更新判断、验证想法和改变处境的条件，却没有相应改善。

这和把自己关进一种观点里的信息茧房还有区别。即使他愿意听不同意见，也能接触彼此冲突的论点，仍然可能缺少进入实践的通道。看见更多立场，并不会自动带来一个可以试做的项目、一位愿意指出错误的同行，或者一群会告诉他“这个东西没有用”的真实用户。

不妨再设想一个准备转行的人。他借助AI学会写程序，照着公开教程做出一个产品原型。接下来，他看到别人讨论收入增长、用户留存和规模化，于是继续学习这些词，继续优化自己的页面。

可是，他还没有找到愿意反复使用它的人。那些教程中的判断，建立在什么样的用户、渠道和合作条件上，他也未必知道。如果他始终得不到这类反馈，最容易继续做的事情，就是再学一点，再改一点，再收藏一篇讲成功的文章。

他停留在一个看起来一直前进的地方。

你用AI追踪了5000个牛人，但你的世界在变窄

新秩序已经到来，我们还没准备好

成为面壁者的代价

那怎么办？霍尔的回答很三体：变成面壁者。

《三体》第二部里，人类选出几个面壁人，利用对手读不懂人心的弱点，让他们各自在肚子里制定战略，不许向任何人泄露真实意图。面壁，就是给这个时代开的药方：如果你在做一件有意思的事，把墙转过来，对着它，什么都别漏。

过去只有创业公司才把低调挂在嘴上。现在，一切思考都要低调。霍尔给未来知识工作的画像很具体：蹲在树后面，尽量安静地完成你的贡献，一边写，一边听风声。

方法虽好，但有代价。

第一个代价，是知识生长的根被切断了。我在写高概率走廊的那篇文章里讲过延展心智：人的认知回路不止在头骨里，写出来的半成品、别人的眼睛、反驳和组合，都是认知的一部分。面壁等于把自己这条外接的回路剪断。你一个人蹲在墙后面，越蹲越笨，自己还不知道。

有人说，这不是新问题。17世纪末，微积分被两个人几乎同时发明出来。一位把方法藏了多年不发表，另一位先公之于众。两边的门徒为谁先谁后吵了几十年，两个学术圈为此隔阂了很久。可见隐藏和抢先，古已有之。

对，但差异比相似重要。过去隐藏是个人选择，一个天才藏得住，因为没人能一夜复刻他的体系。今天你藏不住，因为吸收的成本归零了。过去是性格，现在是结构。

还有一层损失，藏得更深。死亡森林那篇文章里有个判断：公共话语的历史功能，是在陌生人之间制造共同知识。你把半成品公开，受益的不止是你。它变成一件所有人可以引用、验证、在上面继续盖房子的东西。私密空间里的碰撞，替代不了这一层。陌生人之间没有信任，恰恰没有信任的碰撞，才会长出你想不到的东西。

第二个代价，是思考的质量。面壁时代的发表，从抢着发变成被逼着发。两位数学家扔出来的证明，自己都承认部分是AI slop。当所有人都怕被猎，半成品只会在更生的时候被扔出来。整个领域的平均产出，往下走。

有人会说，知识生长只是转移到了私密空间，群聊里照样碰撞，公共广场的枯萎不算什么。

这句话只对了一半。私密空间替代不了三件事。陌生人之间无信任的碰撞，你最重要的组合往往来自一个你不认识的人。很多年里最重要的科学发现，起点都是两个陌生人在走廊或者会议间隙的闲聊。私密空间没有走廊。可验证的公共记录，私下的共识不构成共同知识，没人能引用，没人能检验。新人的入口，公共中间态是知识世界的大门，私密空间要邀请函。

而且别忘了最后一个悖论。你用来面壁的工具，本身就是猎手。那两位数学家问的最后一问，还没有人回答。你的草稿躺在它的管子里，你用它的深度和速度保护自己，同时把自己的思想过程喂给它。

AI读得懂一切已经发表的东西。它读不懂的，只有那些还没被记录的过程。而面壁者，恰恰把这些过程藏进了黑暗里。

高概率走廊：AI正在制造一个普遍巨婴的社会？（深度）

未来最先进的生活，是拿着太空时代的工具做狩猎采集者

我们正在把AI唯一够不着的东西，亲手藏进黑暗里。

轮作停了。森林里只剩刀耕火种，烧掉一片，种两年，再换下一片。而被烧掉的，恰好是那片土地上还没长成的东西。

霍尔的文章里说，从现在起，所有思考都必须在暗处进行。你会在树的后面看见越来越多半成品的雕塑，夜里不知道被谁放在那里，天亮时已经完工，光亮，但来历不明。

当真正有头脑的人开始面壁，文明确实进入了黑暗森林。【懂】