我们不只是不信任AI，我们彼此也不信任

ChatGPT的广泛应用、诺奖颁给人工智能领域学者、美国大选受DeepFake影响……即使你不太关注技术话题，也不得不承认，人工智能已经深度卷入了我们的世界。然而，看着“AI”热词满天飞，大科技公司占据新闻头条，我们到底要如何揭示人工智能的真正意义，以及人类身处其中的位置？

《再见智人：技术-政治与后人类境况》作者、华东师范大学政治与国际关系学院院长吴冠军认为，在技术呈指数级发展的当下，缺乏的是政治智慧；对人工智能的信任危机，其实根植于人类彼此的信任危机。书中分析了技术加速、智慧缺失带来的困境：大量“无用阶级”失业者不再被社会需要，大国互相争斗，“智人”的“智”不再名副其实，人类本身也成为了人工智能文明的序曲。

界面文化对吴冠军的专访，不仅涉及了“AI与人类的创造力如何不同”等一直被讨论、从未有答案的抽象议题，也从特朗普与马斯克的联合、诺奖委员会的选择、学历贬值等近期热议的话题出发，步步逼近那条最终的道路：今天，我们必须呼吁一次政治智慧的迭代，如果我们以AI为启发，更新思维范式，不再止步于人类主义的固有框架，那么，智人便有一线生机，在新的地平线上看见自己。

人不只是不信任AI，彼此也不信任

界面文化：与尤瓦尔·赫拉利侧重于人工智能的信息与联结不同，《再见智人》侧重人工智能的“技术-政治”面向。为什么研究人工智能需要强调政治？

吴冠军：巧合的是，我和赫拉利的新书都是在9月10号出版，我们都是1976年生人。《再见智人》和《智人之上》两个书名也具有鲜明的互文性（intertextuality）。赫拉利作品的原名是“Nexus”（联结），就像我在那本书的推荐序中所写，这个关键词恰恰有一个具体的政治面向。

亚里士多德说，men by nature are political animals（人天生就是政治的动物）。“政治”的词根在希腊语里是polis，指的是城市，人是在城市生活的动物。亚里士多德认为政治是人的定义性特征，政治对智人来说是唯一关键的、自我界定的向度。意味着人能够以共同体群居，而不是独立生存。所以，政治不是很多人理解的暴力争斗，这恰恰是缺乏政治智慧的表现。动物为了交配殊死争斗，这不是政治，而是政治的反面，是政治向度的缺失。

现在有了人工智能，我们就更清楚智人是怎么回事了。一种可能是我们离智慧越来越远，智人本身被边缘化，也就是“再见智人”了。年轻人倾向于躺平和自我放逐，毕业找工作时，发现自己还比不过人工智能，而人工智能尽职尽责、知识面广、工作效率又高，信息整合能力也很强。

另一种可能是，我们在新的地平线上重新看到人之智，也就是另一重意义的“再见智人”。在人工智能已然超越人之智能的那些领域，我们是否能够发展出与之合作的方式？还是坚持站在人类中心的位置拒认其超出人的智能？可是很多人就是这么想的：我不让你发展，因为我怕你比我更强。为了摆脱这种根深蒂固的思维模式，我们需要智人独有的智慧，那就是形成共同体的智慧。虽然目前人工智能已经很厉害、但让它提出解决当下中东问题或俄乌冲突的方案，恐怕它仍力所不逮。

《再见智人：技术-政治与后人类境况》吴冠军 著北京大学出版社 2024-9

“再见智人”是一个双关语：一个是和智人say goodbye，智人文明是可能会结束的，没有本体论保证使它会一直持续下去，人类可能只是技术发展的一个阶段而已；但是，人类也可以发展出或重新拾起人工智能仍然没办法取代的能力，“再见智人”可以指see you again。“技术-政治”这个词很好，技术和政治是人类的两根拐杖。虽然赫拉利在书中没有明显使用“政治”词汇，但是“联结”就是一种政治性。联结意味着通过各种方式互动，无论是通过神话故事还是信息技术，联结一旦中断，更高层次的文明发展就会变得困难。

最近人工智能专业很热门，政治专业却非常边缘了，外语专业也似乎不再重要，因为AI翻译足够强大。但我们面对的一个核心问题是：以后要如何与这些“后人类”合作和对话呢？我认为，被逐渐忽视的政治学恰恰是应该重视的。政治没有终极答案，它不断面临新问题，也不能简单地抄袭或套用以往的答案，永远是一个持续迭代的过程。

《智人之上》[以色列] 尤瓦尔·赫拉利 著 林俊宏 译中信出版社 2024-9

界面文化：一方面AI技术非常先进，另一方面我们的思维模式还是互相争斗。这让我想到你在书中强调的“信任”，而信任其实是一个没有理性支撑的跳跃。你为什么会这样强调？人工智能这一新成员的加入，会怎样影响信任缺失的现状？

吴冠军：很多人提出要做trustworthy AI（可信任的人工智能），或者停止开发AI，因为AI内部是一个黑箱。但是我们不妨想想，人类的大脑也是黑箱，AI的人工神经网络作为一种仿生学概念，模拟的是人类脑神经网络，人脑中有大约800亿个神经元，它们通过电信号相互交流。脑科学能够监测到大脑皮层中哪些区域很活跃，但是无法还原为脑海里在想的内容。

我们不断从新闻中看到这种事情：在西方社会，一个人昨天还是你的同学，今天拿起枪在校园里扫射。美国政府最怕的不是群体作案，那样还有办法监控，最怕的是一个个脑海黑箱式的“独狼”。

可是，人类是否因为大脑中的黑箱而停止合作了呢？并没有。背后的原因就是信任，我称之为一种政治性智慧。信任这件事并没有基础，如果我能掌握你100%的信息，那我就是上帝了，而上帝是不需要信任他人的，只有人才需要相互信任。可是，没有任何本体论来保证人的想法一定符合哈贝马斯所说的sincere（真诚）和communicative（可交流的），我们只能对信任他者做出一个跃步（leap）。

然而今天，无论是全球层面的国际政治，还是私人层面的夫妻关系，政治智慧都变得很稀薄。我们在面对人工智能时还能担得起“智”人的身份吗？我们不只是不信任AI，我们彼此也不信任。

人工智能发展出慢思考是极有可能的

界面文化：虽然人类和人工智能都是黑箱，但如你在书中所写，这是两种完全不同的黑箱，比如人类懂得爱和创造；与人工智能相比，人类有一种“本体论上永远无法被完全实现的潜能”。关于这一点也有不同观点，比如赫拉利认为，机器也可以进行文化创造。你对此怎么看？

吴冠军：我们称人类的大脑为“湿件”（wet ware），既不是硬件也不是软件，而是一团肉。它有一个关键的有趣之处，也就是可塑性（plasticity），大脑虽然被认为利用率已经很高，实际上仍有很大的可塑性。而人工智能模型完成预训练后，它的能力也就基本定型了，你要么重新再训练一个更高级的模型，比如从GPT-3到GPT-4。

所以，即便人类在知识广度上差人工智能很远，但是我们拥有一个独有的潜能，那就是可以不断地再生成、再组织。举个例子，盲人失去视觉输入后，视觉神经处理区域会逐渐变得不活跃，但即使是遭遇了这样的创伤，大脑还是会以积极的方式去应对，比如重新调用触觉信号，让你经过训练后能读懂盲文，这对视力正常的人来说是不可思议的。再比如对文科学者来说，年纪大了以后，尽管生物学意义上神经元总是在变少，由于此前的积累与相互激发，还是进一步能输出更好的想法。

从生物学上来说，个体在演化过程中不是很重要，演化是一种快速残酷的迭代过程，生完孩子基本就完成了DNA传承的使命。但是，由于人类具有再学习和不断重新训练自己的能力，人类就拥有了一个独特之处——个体生命变得非常重要，而不是局限于简单的生物传承。除非你放弃自己大脑的潜能，躺平做一个吃货——那就相当于早早结束了自身的演化可能性。

界面文化：人工智能是否能够进化出更多潜能？你在书中谈到，人工智能的大语言模型是一种前意识的“快思考”，只有人类能够“慢思考”，但是随着近日OpenAI开发出o1模型，人工智能也能进行慢思考了。

吴冠军：这种情况相当有可能。2022年之前，我们都不曾想到，人工智能竟然能具备如此强大的生成能力。有时我们取笑人工智能数学不行，比如有次它认为18.18大于18.8，错误地将18视作两位数。但问题是人类普遍也是数学不行，人类最擅长的思维模式就是快思维。我们看到长得像蛇的东西会认为很危险，先逃跑再说；有人对你说了有攻击性的话，你马上会感到不快，如果对可能的威胁与危险没有快思维，根本就活不下来。

生成式人工智能的强大，就在于它用快思维的方式，在很多方面能做到人类只能通过慢思维才能做到的输出，尤其是文本处理方面。你读完一本书后写书评，需要在脑海中提炼书的核心内容，而人工智能可以将复杂的思维过程转化为迅速的输出。人类的快思考是无法处理抽象的文字，然而人工智能的快思考能够直接针对具体的象征性符号，直接处理抽象语言。从这方面上来看，它可能真的是一个更厉害的species（物种），而o1这样的模型显示出人工智能发展出慢思考是极有可能的。

比起民族国家，“人类命运共同体”是更好的政治智慧

界面文化：特朗普胜选后与马斯克的一系列联合、硅谷精英集体转向右翼，都似乎说明技术威权主义十分盛行。你如何看待当下的情况？

吴冠军：我的理解是，事情都是在变化中的。很多人没想到，马斯克竟然会和特朗普合作，他们两人在很多地方分歧很大，马斯克做新能源车和SpaceX，核心诉求是改变能源结构和探索火星，为人类文明留后路。但是，特朗普代表的是气候变化的“拒认者”，他决定让美国退出《巴黎气候协定》，认为人类可以继续过往的方式发展，不需要做什么改变。特朗普宣布退出协定的第二天，马斯克就退出了总统顾问委员会，他认为特朗普是一个大忽悠。然而今天，他们又达成了合作，这是很有意思的。

我的分析是，马斯克对人类文明怀有一种危机意识。比如9月30日，他为特朗普单独搞了一场竞选演讲的背书，表示西方文明可能面临终结。他认为，民主党是更加不作为的，过于关注政治正确如性别议题，忽视了其他人类的大问题，民主党上台可能又是白白浪费四年。马斯克尤其痛恨“觉醒文化”。我们暂且不评论马斯克的认知本身，在他的认知中，首先就没有那么多时间可以浪费。

再反过来看特朗普是一个怎样的人。特朗普非常在乎“赢”这件事，他甚至说过一句话：“我认为竞选总统比做总统更有意思。”并且，特朗普是商人出身而不是政治家出身，他的施政就可能不会被此前的说法和做法所绑架，说出的话也经常随便改口。他可能会愿意谈判，只要他认为他能赢。但如果按照政治正确的标准，很多话是不能说的，稍微说错就会被贴上标签。

所以，这就产生了一种可能性：当特朗普和哈里斯势均力敌时，马斯克在关键时刻给予助力，让特朗普获得了很大的优势，那么接下来，马斯克就可能拥有很大的政治介入空间、能够深入影响政治议程，比如带来技术和生态方面的改变。我们也已经看到，特朗普在很多场合都带着马斯克，比如和泽连斯基通话、参加巴黎圣母院的重开仪式。

这是件好事吗？我觉得还是蛮好的，今天的时间常常浪费在政客们彼此指责、彼此起外号的话语中，但我们需要能够实际地带来变化的人。至于怎样变化还无法预测，但至少会有新的可能性。

你可以不喜欢马斯克，但他的确是一个思考者，一旦想好以后执行力也很强。比如在此之前，没有人认为去火星这件事可以由私营公司来完成，但是他承担了下来，并且做得有声有色。

界面文化：虽然马斯克是一个思考者和行动者，推出了Neuralink脑机接口等非常“科幻”的技术，但如你在书中所说，他的愿景归根结底是超人类主义的，会导致权贵精英最先享受到增强技术，进一步加剧全球不平等，马斯克对AI的恐惧也仍然根植于“人类-AI”的二元对立。与之相反，后人类主义则是激进地打破了二元对立。可以简单谈谈两种框架的区别吗？

另一个问题是，如今，真正掌握技术的人才许多都被招至OpenAI等科技公司，他们也会不可避免地进入技术-商业精英的框架；而还在想象“后人类”未来的，似乎是并不拥有技术的“文科生”。即使我们知道后者才是努力的方向，但是在提出理论之余，还应该怎么做？

吴冠军：这是一个很值得探讨的问题。首先要讲一下超人类主义和后人类主义的区别。人类主义是一种基于生物性身份的思维逻辑，超人类主义是人类主义的延伸，当马斯克看到人工智能的挑战，他会想：不能让人工智能比我更强大，所以要通过脑机接口等方式，使它成为我思维的一部分，从而驾驭它。人类主体是一个基座，其他所有东西都往上加，目的是提升我的能力。经常会出现两种心态，一种是对人工智能充满恐惧、不让它发展；另一种是寄希望于人工智能来解决人类的问题，这也是一种人类主义，叫做有效加速主义。

在此之外，我们还可以多走一步路，提出另一种思维方式。人类对自己的能力具有信心的历史并不悠久，只有四五百年，再往前其实并不是这样。西方文化中有全知全能的上帝，泛神论中山有山神、树有树神，许多事物都比我们厉害，《西游记》里的唐僧看到一棵杏树里的树精都要吓死了，所以人类没什么了不起的。但是几百年来，人类形成了一定要坐在中心的思维方式，当智能有可能被超越时，就不能平心静气地对待了。

因此，“后人类”的概念很好，它不是反人类主义，而是要在人类之后，看看不一样的可能性，有没有被人类主义所掩盖和忽视的存在值得探索和合作。它也不是取代关系，不再是中心-边缘的框架，而是拥抱多样性，打开主体间性、文明间性、物种间性和智能间性。如果世界上只有一种智能，其实你也很孤独，这意味着你很难再提升了。

举个例子，人类的成就与其他生物的合作密切相关，同身体中肠道菌群的合作形成了我们的健康状态。从国际角度来说，切断国家之间的合作并进入“掐脖子”状态，是一种很愚蠢的行为。很多人留恋人类主义也很正常，就像是留恋故乡，但我们应该有更大的思考格局，学会谦卑，去看到一开始让你不舒服的存在者。并且，当人类文明变得越来越陈腐、老化，公共平台上充斥着各种对撕和谩骂，还能出现这么有意思的可能性，这不是很好吗。

界面文化：奇怪的是，人工智能技术本身是去中心化、跨学科的，可现实却是，它成为了一种中心化和威权化的技术。按照书中的观点，如果全球资本主义秩序、民族国家格局没有改变，人工智能趋于中心集权化的未来是否就无法改变？

吴冠军：这是人类的自我组织的两种主流方式，两种方式彼此依存，延续的时间很长，同时也构成了我们当前的僵局。

我们先从民族国家的角度来谈起，自威斯特伐利亚合约以来，欧洲国家进入了民族国家状态，这种状态后来主导了世界。尽管联合国呼吁了许多事情，但它的力量也很弱，我们仍处于不断擦枪走火的局面中。

曾经，民族（nation）让世界有了新的可能性。通过这个概念，我们能够建立连接，形成想象的共同体，连结许多氏族和种姓，打破了以往不可合作的壁垒。随着时间的推移，它反而成了纷争的源头。政治智慧是没有最终结论的，今天可以被视为一个迭代政治智慧的阶段，比起民族国家，“人类命运共同体”是一个更好的政治智慧。它超越了传统的民族框架，在人类乃至行星的意义上思考共同的命运，它更可以开启各个物种命运共同体的后人类视角。

另一个关键问题是资本主义。资本主义的生存依赖于外部，资本主义不能自给自足地增长，它一定要开辟新的市场、发现新的方式。今天全球化的程度越来越高，既有的市场越来越饱和，各种资源也已经被深度开发，那要如何找到新的地方呢？于是，技术变得极为重要，一有新技术出现资本就扑了过去。

过去的世界是广阔的，但今天的行星变得越来越小、已经变成“地球村”了，导致了许多矛盾。尽管中国和美国地理上相隔遥远，但地球变小使得他们很近，有人就会感觉对方多吃了一口肉，我就会少吃到一口。在这个意义上，资本主义和民族国家共同形成了一个巨大的矩阵，严重制约了人类文明的进步，也让我们陷入危险的边缘，比如生态危机。

在资本主义中，什么都要算一算利润，生态问题的成本就很高，例如，实现碳中和的成本就很昂贵。而民族国家的模式让局面变得更糟糕，特朗普认为，美国凭什么要承担责任？但问题是，生态问题主要是经历过工业革命的发达国家造成的，而不是南方国家。在这个意义上，民族国家与资本主义结构使很多事情无法做成。

技术也是一样，AI原本是一个非常好的讨论平台，但现在AI本身变成了一场军备竞赛。所以，我们要呼吁一次政治哲学的大的迭代。上一次的政治智慧迭代是三四百年前，在以往等级化的社会中，很多人的幸福指数很低，活着就是吃饱这一件事，但那时的启蒙哲学家们发明了一组新概念，让我们进入了现代性，人类也取得了许多成就。现在我们又到了一个关头。

就算人类输给人工智能，也不意味着一切都结束了

界面文化：你在写这本书时，诺贝尔物理奖和化学奖授予与人工智能领域相关的学者的消息还未公布。但你也在书中写到，技术已经不再是科学、政治、艺术等维度之一，而是凌驾于这些维度，成为主导性维度。在你看来，诺奖委员会的选择是技术凌驾于科学的表征之一吗？你如何评价这一选择？

吴冠军：诺奖物理学奖公布后，我的朋友圈几乎炸了。我的一个朋友是有名的哲学教授，本科学的是物理学，他非常生气，说：“诺贝尔奖委员会疯了，杰弗里·信顿和约翰·霍普菲尔德都是搞人工智能的，计算机科学有图灵奖，怎么又跑来抢诺贝尔物理学奖，他们又没有受过物理学的学术训练。”

我的分析是，这次的诺奖既激进又保守。激进在于，他们竟然大踏步冲破学科的壁垒，关注研究者跨学科的贡献，而不是物理学归物理学，计算机科学归计算机科学。人工智能本身就是跨越学科的，ChatGPT或者Sora可以是物理学家，也可以是人类学家。

保守在于，诺奖委员会在评选时仍然要证明这是人类获的奖，人类中心主义的思维仍然存在。这导致了某种扭曲——约翰·乔普是AlphaFold的首席科学家，他并不是做结构分子生物学的，然而他领衔做出来的计算机模型是一位很棒的结构分子生物学家。但诺奖委员会无法认可一位连“脸”都没有的科学家的成就。同样，辛顿在人工神经网络方面的一组奠基性工作使得物理大模型有了可能性，但并不意味着他是这个领域的专家，所以信顿接到获奖电话时还以为这是一个玩笑。

界面文化：我读过一篇诺贝尔物理学奖评奖委员会委员Ulf Danielsson的专访，他也认为AI只是工具，不能自己推动科学前进。

吴冠军：我这本书也是一个努力，希望慢慢打开我们的格局。我们只是倚赖生物性的快思考的时候，格局比现在更小，看到不同肤色的人会感到警惕或恐惧。所以人工智能要用起来、不同国别民族的朋友交起来，互相学习才是解决生物性恐惧的方式。就算人类最终输给了人工智能，那也没关系，不意味着一切结束了，我们人类还可以regroup（重新部署），就像爱因斯坦去到普林斯顿大学后进行了重新调整，相对早年物理科研上进展有限，但他成为了一个伟大的公共知识分子。

今天的情况是相反的，学者在论文署名时，还是不允许给AI共同署名；由于不能署名，学者使用了ChatGPT进行文献梳理，结果就被抓出来说成抄袭。这都是很猥琐的事情，有好的工具为什么不允许使用呢？

当下是人类文明史上政治智慧和技术智能最脱轨的时代

界面文化：你在书中着重写了AI时代的教育问题，认为在AI取代人类工作、知识更新迭代加快的当下，教育应该从实体学校的单线灌输式教学，转变为网络状结构的终身教育，所有人都是教-学实践的行动者，需要时时与网络互动，这样才不会被淘汰。关于AI对教育的启发，可以再展开谈谈吗？

吴冠军：今年1月份的Nature杂志有一篇很棒的文章，题目叫做《It Taks Two to Think》（要二才能思）。人类的思考过程从来不是孤立的，看似是“吴冠军”写的书，但这建立在我阅读了许多优秀著作、向很多深具洞见的作者进行思想交流的基础上，只是在人类的写作传统中，“作者”不能写上几百个，所以我的书“后记”变得很重要，里面有在我生命中那些重要的交流者。

法国哲学家拉图尔有一个“行动者网络理论”，个体并不是以自我为本体论根基的行动者，而是在互动中才产生了行动者。并不是首先有两个个体在彼此互动，而是通过互动才有了这样的你和我。所以，改变和互动是最根本的，关键不是你是谁、有怎样的理念，关键是你做了什么。

界面文化：一个疑惑在于，在学历贬值、毕业即失业的严峻情况下，以上讨论对大部分人的意义是什么？清华大学基础科学讲席教授刘嘉也提到，在AI时代，教育应该从就业导向变为跨学科的通识教育。可是能做到这一点的，似乎仍然是精英群体，你怎么看？

吴冠军：可以从两个角度回答。第一个角度指向自我、我该怎么做；另一个角度是整个社会应该怎么部署，使我们能够更好的合作，而不是互相伤害或产生大量失业。

从自我出发就是伦理学，从社会结构出发就是政治学。然而在今天，这两个学问都几乎停滞不前。政治学被边缘化，我们也不怎么讲伦理了，反而要求人工智能讲究伦理。

从自我出发，今天面对世界的唯一可能性就是重新构建认知地图。以前，我们是在同学、父母的轨道上学习，但是了解人工智能的学习模式后，我们可以反思人类的学习制度。传统上，人类的学习周期是20多年，工作后就停止学习了。然而，学习本身是一种重要的伦理实践，人工智能也要通过学习生成新内容，因此，学习应该是终身性的投入，并且要与各种人、后人类对话。

虽然你提到精英与非精英的区分，但反过来也可以说，你愿不愿意提升自己呢？学习的确很累人，因为慢思考会消耗能量，也不符合人的本能，人的眼睛不擅长梳理抽象文字，更擅长处理图像，所以刷短视频很开心，但同时你也丧失了很多。而伦理学要求我们走出舒适圈，不仅仅满足于当一个“吃货”。

从政治学出发，我们面临的一大挑战是，大量的人不再被需要。以前只是在体力上不被需要，比如工业化生产代替了木匠的手工艺，但如今，AI在智能方面的表现也经常超过人类。在文明史上，已有的各种社会形态都高度依赖人力（体力与智力），连战争也需要人力，但是现在无人机技术已经很成熟。未来，当AGI（通用人工智能）的时代真正来临，它在各个领域超过85%甚至90%的人类，那么除了最一流的人类仍有价值和话语权，剩下的绝大多数怎么办？

可惜的是，我们仍然在用老方法应对新问题。特朗普还认为是移民抢了他们的工作，毕竟没有脸的人工智能没法被直接看到，技术还在以指数级发展，这是人类文明史上政治智慧和技术智能最脱轨的时代。

赫拉利说，总会出现新的工作，可是新工作的学习成本谁来支付？人们本来就不愿意学习，学习成本还变得越来越高。最后还是要同时落到技术与政治，要去加快迭代政治智慧，通过哲学来创造概念，并把新概念安顿进我们的世界中，否则真的要告别智人了。如果我们能做好，那么在后人类的地平线上，我们将再次见到智人的身影。

本文来自微信公众号：界面文化，作者：尹清露，编辑：黄月