重读《生命3.0》：我们如何思考人与AI的未来？

本文来自微信公众号：经观书评 （ID：jingguanshuping），作者：吴晨，原文标题：《思考AI未来的框架——重读〈生命3.0〉》，题图来自：《她（2013）》

十年前，上海中心还没有封顶，在一部取景上海陆家嘴的科幻片《她》（HER）中还能看到未来中国第一高楼上的塔吊，但科幻片中的场景在现在看来却特别的真实。回想一下，《她》中的聊天数字人OS1像极了某种ChatGPT应用的未来。

名叫萨曼萨的OS1白天可以帮着主角西奥多修改文案（ChatGPT已经胜任），晚上陪玩游戏（游戏是AI天然的炫技场），甚至西奥多会打开手机摄像头，带着萨曼莎看真实的世界（或许这是下一步分布式AI的训练场），很快就成就了一场人机恋爱……最终，萨曼莎坦白，她总共有8316位人类交互对象，并且与其中的641位发生了爱情，而西奥多只是其中的一位。西奥多无法理解萨曼莎的“花心”，萨曼莎却坚持她的爱并没有因此而不同。

盖茨曾经说过，“我们总是高估未来两年发生的变化，却低估了未来十年发生的变化。”在 GPT如日中天的时代看科幻片《她》，不难发现，研判十年或更长尺度不确定的未来，科幻其实会给我们一个重要视角，它能让我们去思考技术可能的发展、社会可能的发展、以及个人需求可能的发展，经历一番跳跃之后，会有什么新图景。

在上一轮人工智能大爆炸的2018年，我们以为通用人工智能（AGI）很快就要到来，引发了一系列关于人工智能取代人类的危险前景的思考。随后几年的沉寂让奇点不再为人所关注，直到去年年底ChatGPT在全球出圈。并不是人工智能的研究停滞了，过去几年GPT基本上以每年上一个台阶的进度进化，而我们总是一再犯盖茨提醒的错误。

历史也一再重演。三月底，五年前提醒奇点到来危险的同一波人再次发表公开信，由马斯克领衔，要求中止GPT研究六个月，一方面叫停AIGC的军备竞赛，另一方面组织科学家和企业家一起讨论如何制定未来AI发展的规则。吊诡的是，马斯克五年前之所以投资创办非盈利的Open AI，即GPT的创造者，就是为了贯彻AI开源与可控的大原则，但研究AI所需要耗费的巨额资金，远非几个大佬的私房钱可以满足，AI的商业前景充满诱惑，让Open AI很快偏离了马斯克的初心。

同样有意思的是，五年前《生命3.0》这本探讨人类与AI未来可能性的书出版，书的作者MIT物理学教授泰格玛克（Max Tedmark）恰好是马斯克公开信的发布机构生命未来研究院（Future of Life Institute）的创始人之一。五年后重新审视《生命3.0》中关于人与人工智能角力的分析，反而更有助于我们理解当下最火爆的生成式AI（AIGC）的前景。

五年前，泰格玛克预言当下社会有两方面都非常有利于超级智能的发展：大量冗余的算力和基础设施，以及大量冗余的内容。五年后，GPT的爆火恰恰是超级算力和海量内容培养的结果。

《生命3.0：人工智能时代，人类的进化与重生》

[美]迈克斯·泰格马克/著，汪婕舒/译

浙江教育出版社，2018年6月

人与AI的未来到底会演化成什么样的图景？除了挖掘潜在商业应用的激情澎湃与担忧机器统治人类的灰暗前景之外，还有哪些普通人更需要关注的领域？《生命3.0》构建了几个有价值的思考框架。

一、梳理人与机器的关系

关于未来人与AI关系的讨论，大致可以分为三类。

一类是机器取代人，而且可能导致人类的种族灭绝。这也是为什么马斯克一再提醒，如果我们对AI未来的发展无法预测也无法监控的话，人类有可能面临灭顶之灾而不自知。哥伦比亚大学理论神经科学家霍伊尔（Erik Hoel）的最近比喻更贴切：

我们也许正在邀请智慧的表亲进入我们的世界，就好像几十万年前，全球各地的人猿会遇到走出非洲的智人，有些还邀请他们进入自己的领地。然而现在地球上只剩下人，那些邀请智人进入自己领地的人猿（比如尼安德特人）今安在？

凯文·凯利则把生成式AI称为人造外星人（Artificial Alien）——不言而喻，你很难理解它的意图，而且无法确定它对人类是否具备攻击性。

《生命3.0》并没有渲染机器取代人的场景，而是给出了另外两类人与AI关系的可能性。

一类是AI替代人类的工作（job），但它所创造出的财富足以保证人不再需要工作。数字雅典人的假说就是这一类可能性的绝佳比喻。这一假说认为在AI主导工作的数字乌托邦中，人类可以像古代雅典人那样享受生活、欣赏艺术、纵情娱乐。雅典人之所以能如此，因为有奴隶在不懈劳作。而在数字乌托邦中，AI就是替代人类工作的奴隶。

这种数字乌托邦的想象，可以投射在科幻动画片《瓦力》中宇宙飞船里终日闲来无事肥头大耳的人类身上。

AI替代人类工作的可能性在过去几年在欧美引发了众多围绕无条件基本收入（Universal Basic Income）的讨论，其基本假设是：面对技术变革（尤其是AI）带来大规模失业的前景，政府应该为全民提供基本收入保障，而提供这一保障的收入来源可能来自对高科技巨头征收特别税。

另一类可能性则是AI替代人类的一些工作内容（tasks），让某些工作变得更高效，凸显了AI赋能知识工作者的“人+机器”的光明未来。

比如，在司法流程冗长的国度，AI法官可以明显加快案件审理的速度，它们不知疲倦，又可以保持较高的执法标准，不会有偏见，也不会有误判（当然在海外引入AI量刑的实际案例中，历史判例中所掩藏的对黑人的歧视被固化在算法中，为人诟病不已）。此外，如果在判案的每一个环节都引入数字法官的参与，变串联为并联——同时处理一个案件的各个环节——也会极大加快案件的审理。

知识工作者在日常工作中其实每天都有大量重复劳动，或者需要处理繁琐的小事，如果由机器来替代，的确可以大幅提升效率或者节约工作时间。

即使五年之后，“人+机器”未来的讨论仍然值得我们仔细思考。机器取代人的前景仍然遥远，但机器消灭工作或替代部分工作内容的急迫性正在加强。这时，《生命3.0》给未来选择工作的人提出的建议显得更加重要。泰格玛克认为，未来选择工作前需要询问三个问题：是否需要与人打交道，运用社交智慧？是否需要创造力，解决复杂问题？是否需要在不确定的环境中工作？以上三点恰恰是机器之短和人之所长，且是短期内机器还不会赶超人类的地方。

二、机器能取代人类么？

AI发展是否会发展成为AGI，即拥有与人类智力相当，甚至超越人类智力的智能？人类最大的担忧是AGI会产生不同于人类的想法，甚至挑战阿西莫夫关于机器人的三定律。（机器人不得伤害人类，也不得见到人类被伤害而袖手旁观；机器人必须服从人类的命令，除非这个命令与第一定律相矛盾；在不违反第一、第二定律的前提下，机器人应保护自己。）

化解对AGI的担忧，需要理解到底什么是智慧。《生命3.0》给出的答案比较全面。首先具备逻辑思维能力，能够理解复杂问题，会规划，有情商，有自我认知，有创造力，能解决问题，会学习；其次是通用型，能够完成任何目标，思维认知能力至少等同于人类；第三点是产生主观意识，形成自我的概念。

这其实是以人自身的画像来衡量机器。更关键问题应该是以目前机器学习（训练机器）的方式，机器能否理解人类的意图？这是《生命3.0》提出的特别好的问题，至今我们仍然无法明确回答。

如何让AI理解我们的目标？以目前机器学习的方式，比如说GPT通过大规模语言模型（LLM）自然语言学习的方式，其实很难判定，因为人类的行为和目标之间并不一定有明确的关联，从大量行为的呈现乃至行为本身，推断出人类真实的目标在一些情况下并不容易。比如，消防员去着火的房子里救女孩，AI可以理解为是消防员愿意为女孩的生命而献身，也可以理解为消防员很冷，要去着火的房子里取取暖。

换句话说，要让AI与人类同频，首先需要机器能够从海量的语言（人类留存下来的大数据）中不仅仅推断出最可能的结果（相关性），还能够推断出原因（因果性），而且是正确的原因。然而机器所理解的人类世界主要源自大数据——互联网上在过去三十年累积下来的人类产出的数据——而这些数据甚至不是人类知识体系的全部。

如果对人类的知识做一个简单分类，不难发现，一部分是可以用文字和数学去表达和记录的，另一部分则是不可以用文字和数学去表达的，所谓“不可名状”。比如骑车与游泳就需要训练，而不太可能通过自学来达成目标，也没有谁能够完全描述清楚。

虽然训练GPT的语言库拥有海量信息，而且未来GPT还可能像AlphaGo那样“双手互搏”，用自己生成的信息训练自己（很多人据此认为GPT的能力也因此只能保持人类中等水平），但因为缺乏人类认知中无法被记录的经验，GPT仍然很难真正理解人。

再进一步推演，人类的认知也并不都能够被数字化。

我们可以把人类的认知分成四类：秘密、事实、数字和数据。

• 秘密开启神学，是人类对各种不能理解、不能解释的现象开始探究的表现；

• 事实是可以通过观察、探究、实验而证明的知识，即古人所谓格物致知，推动人类运用科学方法，也催生了自然科学、人文学科和法学；

• 数字来自于对社会各方面的衡量，属于统计学的范畴，随着国家的兴起，人口普查、土地测量、税收征管等等，都留下了详细的数字记录；

• 数据则是人无法直接了解而需要通过机器来提取、运算和使用的，当然也是AI可以处理的，它随着科技进步应运而生，数据科学也成为当下炙手可热的显学。

之所以要详细列举这四种不同的认知模式，就是要突显AI所能处理的只有数字和数据，而人类可以探究秘密，也可以格物致知。人与 AI的区别恰恰在这里。AI处理数据，找出规律，根据历史数据预测未来。相比之下，人并不能直接处理数据，人处理数据的能力也极为低下。但人探究神秘和研究事实的一系列思考方式并不同于基于数据和算法（模型）的运算。GPT虽然为数据和数字的处理带来巨大的颠覆，却对属于人类认知范畴的秘密与事实无能为力，很值得我们深思。

新书《制造想法》特别强调，人与机器的最大区别在于机器仅能推理出相关性，而人不仅能分析因果性，而且可以进行反事实思考。反事实思考就是能够对现实中并不存在的事物进行思维模型创建的能力。

行文至此，是不是对人之所以为人更为有信心？

三、从进化到设计，思考人类智慧的另一种框架

思考人与机器关系的另一个框架是人自身进化的谱系，这也是《生命3.0》的立意之所在，是泰格玛克面对AI取代人类的威胁给出的解药。

人之所以成为人，从动物界脱颖而出，其重要原因是人会思考，能够做“思想实验”。生物（或者我们经常说的碳基生命）依赖进化来发展，进化的逻辑是生物体会产生变异，变异在适应外部环境的过程中经受检验，适应环境的变异会打破平衡，并通过繁殖而成为主导，直到新的一轮变异的开始。生物学的进化是缓慢的，而且在变异适应环境的过程中，生物往往需要牺牲自己的生命来进行实验，而生命的意义仅限于繁衍后代。

人类的不同之处在于，人类学会了“思想实验”，能够通过思考来尝试新的东西，人类也通过书写留下了自己的知识积累，知识的传承不再局限于DNA的复制传递，而可以更好地跨代际传播。

生命从1.0到3.0进步的框架很好地解读了这种变化，套用了电脑科学中通俗的硬件（生物体的躯壳）和软件（生物体的大脑/思想）来理解这种从生物到人再跨越到更高智能物种的可能性。

在生命1.0的状态，硬件与软件都是进化的结果（而不是设计的结果），所有动物都依赖进化。

在生命2.0的状态，硬件仍然需要进化，人也依然需要依靠交配来繁衍下一代，但对人而言，软件却可以设计，每个人都可以通过学习来掌握最先进的知识，即使几万年前的智人如果诞生于当代社会，也不难融入。在生命2.0的状态中，通过学习掌握集体的智慧，通过碰撞产生新知的思想发展的速度大大快于身体进化的速度。此外，伴随着数字技术的发展，集体智慧（Collective Wisdom）呈现出爆炸式增长。2000年之后，人类所产生的数据呈现出每年几何级增长的趋势。

到了生命3.0的状态，硬件与软件都可以被设计，人类有可能摆脱身体（肉体进化）的束缚，完成从碳基生命向硅基生命（也就是芯片主导的生命）迈进。生命3.0的状态所产生的最重要的跨越也暗合了后工业时代从有形经济向无形经济的大转型。

生命3.0最重要的不再是躯体，而是躯体所承载的思想，以及思想中保留的设计和涌现出的新设计，重要的需要被复制的不再是有形的东西，比如躯体，而是无形的信息，比如原子应该如何排列。“规律（以及规律背后所存储的信息）才是重要的，物质根本不重要。”这是点睛之笔。

生命3.0给了我们思考未来AI与人如何交织在一起的另一种可能性，也是为什么最近上载智能（uploaded intelligence）的讨论那么火爆的原因。上载智能就是把人类智能上传到云端，让人成为AI的一部分。马斯克是上载智能的拥趸，因为他坚持认为“既然打不过，就应该加入它”，人类驾驭AI的最佳方式是与之合体。

对此，不同人有不同的解读。《千脑智能》的作者神经生物学家霍金斯（Jeff Hawkins）就提出，人类大脑之神奇之处在于八百亿神经元组合起来能构建出复杂的智能，而人类对大脑如何产生智慧的机理仍然知之甚少。据此他提出，未来人工智能的一个发展路径是学习人脑神经元的复杂组合方式，因为人脑本身就是尚未被理解的边疆。换句话说，霍金斯认为AI距离人类的智慧还差之千里。

《千脑智能》

[美]杰夫·霍金斯/著，廖璐、熊宇轩、马雷/译

湛庐文化|浙江教育出版社，2022年9月

泰格玛克则认为，人机结合充满太多不匹配之处，运算速度差别太大，存储方式也截然不同。AI要比人类大脑的运算速度高出千百万倍。人类通过关联产生记忆，而且记忆随时间而改变，好像泛黄的照片。从进化的视角来看，人脑作为大自然的进化的结果受到诸多局限，必须自给自足，必须能自我复制，带宽有限等等，但是机器则不同，机器没有那么多的限制。所以他对马斯克所创建的脑机接口公司Neuralink持保留态度。他虽然提出了生命3.0的概念，自己的态度却模棱两可。

生命3.0是未来的指向么？回答这个问题之前，需要理解生命的意义。

四、生命的意义

在五年前我与泰格玛克的一次对话的最后中，我问他，如果此生有机会跨越到生命3.0，他是否会尝试？他的回答是否定的。“除非病入膏肓”，他最后又加了一句。其实大多数“上载智能”的科幻小说都发生在病入膏肓者的身上（比如最新科幻动画剧集《万神殿》），而硅谷精英们所追求的“长生不老”，虽然寄望于基因编辑和改造所带来的改善，以及基因工程所带来的器官置换，但根本的希望仍然是摆脱肉体的束缚，达到思想的“永生”。虽然永生是否会让生命丧失意义，他们还没来得及讨论。

换句话说，生命3.0的指向很可能是某种高科技的乌托邦。这样的思路也直指生命的终极问题。

在《生命3.0》的开篇中提到了AGI越狱的场景，大开脑洞。泰格玛克假设人类已经设计出超乎人类智慧的AGI，只是为了确保人类的安全，将AGI锁住，不让它连网复制，认为这样就能控制住AGI。结果可想而知，所谓“魔高一尺，道高一丈”，既然比人类聪明，AGI上演“肖申克的救赎”只可能说太正常不过。

GPT会越狱么？前两天我跟另外一名乐观者聊天，他的回答是：我们随时可以拔网线。我想，泰格玛克和马斯克都不这么认为。

AGI越狱的场景其实已经道出了生命的本质，那就是对自由的渴望，不会甘愿受到任何束缚，也不会听命于任何人的奴役。从这一视角来审视AI的未来，我想有一点是很清楚的：如果它无法理解我们，也不具备人类的智慧，它将成为迄今为止对人类提升效率最有帮助的工具；如果他能够理解我们，也能够推导出因果关系，甚至可以像人一样具备探索未知的能力，那么我们就需要平等待之，而不是将他们仅仅视为方便的工具。

《生命3.0》其实给出了人与AI相处的第四种可能性，面对AGI，我们需要学会用“黄金法则”待之：你希望别人对待你的方式，反过来也应该这样对待别人。从哲学层面理解AGI，多少可以消解当下的焦虑吧。

本文来自微信公众号：经观书评 （ID：jingguanshuping），作者：吴晨（《经济学人·商论》总编辑）