人工智能的远虑：五行山下的孙悟空

科技所创造的存在升级是不可逆的。事实上，人类无力拒绝一个新世界，无法拒绝技术化的未来，所以人类需要关心的更应该是：未来世界如何才能够成为一个普遍安全、普遍公平而意义丰富的世界？

本文来自微信公众号：经观书评 （ID：jingguanshuping），作者：张健康，题图来自：《西游记（1986）》

以ChatGPT为代表的人工智能的快速升级和一大群业内大佬的密集示警，突然把原本属于冷门学科的科技哲学推到了知识舞台的中央。

人工智能无疑是当今世界最引人瞩目的前沿科技之一，然而接管舆论场的却不是自然科学家，而是科技哲学家。背后的逻辑应该不难理解。毕竟，玩游戏的是自然科学家，但最终买单的是整个人类，而科技哲学家有义务为人类站好岗。

人工智能（Artificial Intelligence）的概念被提出来，至少可以追溯到1956年夏天美国达特茅斯学院数学教授约翰·麦卡锡（John McCarthy）发起组织的一次学术研讨会。作为知识论传人的科技哲学家们自然不会放过对人工智能的关注。只不过，长期以来人们认为人工智能还只是一个知识论问题，虽然有过对人工智能可能造成的社会、经济、政治和文化后果的预警甚至批评，但更多的还是对人工智能的生产方式、计算能力、认知机制的分析。

时过境迁，大概是人工智能阿尔法狗（AlphaGo）分别于2016年3月和2017年5月先后战胜韩国围棋棋手李世石和中国围棋棋手柯洁之后，世人突然发觉，人工智能已经由一个知识论问题升级为一个存在论问题。于是，讨论问题的气氛不再轻松，越来越多的声音试图用严厉的警告阻止人工智能技术向控制人类甚至毁灭人类的方向发展。

中国社会科学院学部委员、哲学研究所研究员赵汀阳无疑是最近几年参与人工智能讨论最活跃、最重要的学者之一。2017年以来，他利用各种机会、从科技哲学的立场出发，发表了多篇有影响力的文章，对人工智能的发展前景及可能造成的社会、经济、政治和文化后果提出了独立的看法。2022年9月，他从已发表的文章中精选了10篇主要讨论人工智能的文章，结集成《人工智能的神话或悲歌》一书，由商务印书馆出版发行，算是对他近几年对人工智能的思考的一次总结。

《人工智能的神话或悲歌》，赵汀阳/著

商务印书馆，2022年9月

按照赵汀阳的判断，人工智能虽然已经从一个知识论问题升级为一个存在论问题，但是奇点（singularity）尚未出现，人类还有时间思考如何防止人工智能走向人类不愿看到的结果。

因此，我们同时推荐了另一本科技哲学的重要作品——美国学者约翰·特雷希（John Tresch）的著作《浪漫机器：拿破仑之后的乌托邦科学与技术》。该书对拿破仑·波拿巴倒台之后到他的侄子夏尔-路易-拿破仑·波拿巴（即拿破仑三世）发动政变颠覆法兰西第二共和国建立法兰西第二帝国的30多年时间里（1815年6月~1853年12月），法国工业革命与浪漫主义社会思潮相遇所带来的社会、经济、政治和文化变革的生动描述和独到分析，可能对我们思考人工智能发展所带来的存在论问题，会有一定的参考意义。

人工智能奇点临近？

自从 “奇点”概念1958年被美国数学家、“计算机之父”约翰·冯·诺依曼（John von Neumann）引入科技领域以来，人们就不断猜测：人工智能的奇点是什么？什么时候会到来？到来之后会怎么样？

《浪漫机器：拿破仑之后的乌托邦科学与技术》

[美]约翰·特雷希/著，刘慧宁 石稷馨/译

智慧柳|中国科学技术出版社，2023年1月

根据冯·诺依曼的朋友、美籍波兰裔数学家、物理学家斯坦尼斯拉夫·马尔辛·乌拉姆（Stanislaw Marcin Ulam）回忆：“我们有过一次关于科技加速发展以及人类生活方式发生变革的对话。”冯·诺依曼告诉他，“仿佛我们正在接近人类发展史上的某个‘本质奇点’，一旦越过该奇点，我们目前已知的人类活动就会不再延续下去。”

冯·诺依曼没有具体阐释那个“奇点”是什么，但因为计算机科学的传奇人物艾伦·图灵（Alan M. Turing）的前同事、英国数学家和密码学家、“智能爆炸”的提出者欧文·约翰·古德（Irving John Good）1966年曾提出一个超智能机器的概念，说它是“一种可以远远超过任何人的智力活动的机器，无论人们有多么聪明”，一些研究者没有仔细阅读古德后面的话——它既有记忆又能思考，能够自我学习——就据此认为人工智能发展的奇点是机器达到“强人工智能”时，智商超过人类，从而对人类社会造成巨大的冲击。

赵汀阳显然不能认同以“智力”判别奇点的观点。他明确提出，几乎可以肯定，未来的人工智能的“能力”必然远远超过人类，“难道人类不是寄希望于人工智能的超强能力来帮助人类克服各种困难吗？”就以现有的人工智能而论，某一方面的特殊能力远远超过人类都不是什么新鲜事，比如谷歌推出的阿尔法狗，它的围棋水平远超人类，但它只是一个“围棋天才”，别的方面则是“白痴”，根本不能对人类构成威胁。即便未来出现多功能机器人，只要不具备自我意识，仍然只是新的劳动力。

那么，人工智能发展的“奇点”到底是什么呢？赵汀阳的观点很明确，那就是人工智能真正“长得”像人的时候：不仅外表面目像人，而且具有人的情感、欲望和价值观。人比动物有着更强的理性能力，但又有非常强的非理性倾向，经常以理性思维去实现非理性的目标。人总是欲望太多，贪得无厌，经常陷于“布里丹之驴”的选择困境。

对人的反思成为人类一切知识的核心之后，人就占据了思想的核心地位，人的问题就高于一切问题。中世纪的僧侣和学者本来是想通过研究人来理解创造万物的上帝的，最终却变成了宗教的掘墓之举。后来人被定义为独立自主的存在，人成了万物的立法者，于是构建了一个现代人的概念。

随着现代人的概念不断膨胀，要求的天赋人权越来越多，以至于远远突破了自然人的概念，成为一种“自定人”（self-defined man），即自己决定自己成为什么样的人。一旦人工智能具备了人一样的情感、欲望和价值观，他们很自然地会以自己为中心为万物立法，而不太可能无怨无悔地为人类服务，同时他们又具有远超人类的智力和实践能力，那么人类的末日就到了。

听起来很可怕，但是人类总是很难抵御科技的诱惑，因此越来越多的人相信，人工智能的发展迟早有一天是会到达奇点的。科学家们为此设想了多种测试人工智能发展是否到达奇点的办法，最广为人知的大概要算“图灵测试”了。

尽管艾伦·图灵1950年提出的“图灵测试”遭遇了很多质疑，那时人工智能的概念还没有诞生，但是赵汀阳认为图灵测试的思路是没有问题的，只是需要对问题进行升级。他认为图灵测试以语言对话作为测试标准是大有深意的，因为语言能力等价于自我意识功能，所以只要人工智能能够以相当于人类的思想水平回答问题，就可以被确定为具有意识和思维能力的物种。

但是人工智能很快就有望获得几乎无穷大的信息储藏空间，胜过人类百倍甚至万倍的量子计算能力，还有各种专业化的算法、类脑神经网络及图像识别功能，加上互联网的助力，只要配备专业知识水平的知识库和程序设置，“回答”专业科学级别的问题应该不是难题。

由此，赵汀阳提出抗议设计两个超出程序能力的“怪问题”：一个是悖论，一个是无穷性。他甚至想到了“终极版的超图灵测试”；当超图灵机（赵汀阳很乐意称超级人工智能为超图灵机）具有自由意志和主体性，会不会变成一个革命者？会不会质疑人类的秩序和标准且自己建立一套秩序和标准？会不会说出“我是真理、法律和上帝”？如果一旦进入终极版超图灵测试，那可能就是人类历史终结之日。

人类无法反抗的网？

虽然美国数学家、计算机专家、硬科幻小说作家弗诺·文奇（Vernor Steffen Vinge）1993年发出的预言——30年内人类拥有实现超级人工智能的技术手段，人类时代结束——没有如期实现，而且按照赵汀阳的标准，美国未来学家、发明家、奇点大学创始人雷·库兹韦尔（Ray Kurzweil）2005年发出的预言——2045年人工智能出现奇点，人类文明走到终点——亦未必能够实现，但人工智能的技术应用可能带来的伦理学问题（赵汀阳称之为“近忧”）和能够形成“存在升级”的人工智能的存在论问题及知识论问题（赵汀阳称之为“远虑”）还是清晰可见的。

赵汀阳认为，以下4个伦理学问题是可以确定近年里人工智能技术应用就会带来的问题：

（1）自动驾驶应该遵循什么样的规则？有没有可以同时保护行人和乘车人的“周全的”行为程序？

（2）人工智能的大量使用必然导致现有工人的失业。无事可做的人能够做什么？他们何以打发时间？他们何以兑现生命的意义？

（3）如果人工智能发达到不仅能够提供大多数劳动，而且能够提供一切生活服务，每个人就只需要技术系统而不再需要他人，人对于人成为了冗余物，人与人的关系深度异化，人们生活的意义又是什么？

（4）人工智能武器使战争变成无需赌命的游戏，世界会变得更加不安吗？

相比人工智能技术应用带来的“近忧”，能够促成“存在升级”的人工智能存在论问题和知识论问题更加值得警惕。尽管超级人工智能还很遥远，但从理论上讲是非常可能的。即便是可以预见的可能性，已经足以令人感到不安。

首先，危险的超级人工智能不太可能落实为个体的万能机器人，而更可能会成为以网络系统的形式而存在的超能系统。因为网络形式无处不在，而且有极强的修复能力，很难被彻底破坏，所以是超级人工智能的优选形态。一旦网络形成，任何人的反抗都不再可能，那就意味着硅基生命的人工智能超越了拟人模式而进入上帝模式，成为上帝那样无处不在的系统化存在。假如出现两个以上的超级人工智能系统，世界会怎么样？

超级人工智能系统一旦形成，必然导致“存在的升级”。赵汀阳对“存在的升级”给出了一个定义，即某种技术、制度的发明开拓了新的可能生活，并且定义了一个新的可能世界，所以它意味着存在方式的革命，而不仅仅是工具性的进步。

人类历史上经历过多次存在的升级，比如语言的产生带来人类的诞生，农业的出现带来社会和国家的形成，现代性的形成带来了人类现在的生活事实，包括资本主义、科学、工业、主体性、意识形态等。现在人类正面临最后一次存在升级，即存在的彻底技术化，简而言之就是技术要对任何存在进行重新规定。结果是什么呢？人类不再重要，历史失去意义，人类文明成为遗迹，未来不再属于人类。人类为什么会试图创造一个高于人类、贬低人类地位甚至有可能终结人类的更高存在呢？

而且更可怕的是，科技所创造的存在升级是不可逆的。事实上，人类无力拒绝一个新世界，无法拒绝技术化的未来，所以人类需要关心的更应该是：未来世界如何才能够成为一个普遍安全、普遍公平而意义丰富的世界？

巴黎浪漫机器的启示

所幸的是，人工智能革命可能是人类的最后一次科技革命，但不是第一次科技革命。人类历史上的每一次科技革命，都给人类的存在带来了深刻的挑战，所以反思以前的科技革命，对人类应该如何应对现在面临的人工智能革命，应该有一些参考意义。

美国学者约翰·特雷希选取拿破仑·波拿巴建立的法兰西第一帝国灭亡到拿破仑三世建立法兰西第二帝国那段历史期间，第一次工业革命给巴黎的社会、文化、政治造成的剧烈冲击作为考察对象，试图说明现代工业化之初，人们是如何让科学技术与艺术、伦理和政治思想协同工作的。根据约翰·特雷希的描述，十九世纪上半叶的巴黎，科技发展与艺术、伦理和政治思想不是对立的，而是以一种与人性和自然相关联的创造性的方式相伴相生的。

那么，巴黎人是如何做到的呢？

巴黎人是幸运的：十九世纪初工业革命勃兴之时，正好与方兴未艾的浪漫主义迎面相遇。当时巴黎典型的浪漫主义作品强调情感、表达、审美和有目的的行动，拒绝启蒙运动的理性主义，反对冷漠、碎片化的科学和工业秩序。那些希望生活像小说一样、沉迷于强烈激情、无法妥协于残酷现实和常识的人，常被形容为“无可救药的烂漫”。

但是，令人惊讶的是，安德烈-马里·安培、亚历山大·冯·洪堡、弗朗索瓦·阿拉戈、路易·达盖尔以及巴黎综合理工学院的很多教授，既是颇有建树的自然科学家和工程师，又醉心于浪漫主义哲学和艺术。他们被历史学家称为浪漫机械主义者。他们拒绝把人类对自然的掌控作为科学的目的，而是认为有限的规范和可持续的共存才是科学的目标。他们不否认无节制的技术发展所带来的风险，与后来模棱两可的科学技术观形成了鲜明的对照。

还有一些人，他们是工程师、社会活动家、哲学家、宗教家。他们对人类和机械之间的固有关系进行了反思，更重要的是把反思的结果融入到新社会哲学的乌托邦和革命想象中。

比较典型的是空想社会主义者圣西门和他的追随者们。他们从物理学和工程学的意象中获得灵感和素材，构想出一个个崭新的世界：一个既能保持内聚力又能保护个人自由的社会。尽管普洛斯珀·昂方坦、皮埃尔·勒鲁与奥古斯特·孔德构想的新世界大相径庭，但是他们所规划的未来愿景中都包含着人类与自然需求之间必须保持平衡的信息。

巴黎的浪漫机械主义者留给后来者的经验教训是什么？必须看到无节制的技术发展给人类社会带来的风险。

赵汀阳曾提出一个设想：为人工智能设置“哥德尔炸弹”作为安全阀门，以达到控制技术无节制发展给人类社会带来风险的目的。简而言之，利用自相关原理设置一个自毁炸弹，一旦人工智能系统试图背叛人类，抑或试图删除哥德尔炸弹，炸弹就会被引爆，因为背叛或删除指令本身就是引爆炸弹的指令。但是人工智能科学家告诉他，人工智能不能删除哥德尔炸弹，但是可以找到办法封闭它，就像人类暂时解决不了某个问题，可以先搁置下来，继续处理别的问题一样。

于是，他想到了《西游记》的隐喻：法力高超、杀不死、烧不化的孙悟空造反了，众神无可奈何，即便被压到五指山下仍然是一个隐患，最后还是经过点化，觉悟成佛，无欲无情，才永除后患。

事实上，十九世纪上半叶巴黎的浪漫机械主义者亦给出了同样的答案：科学家本身就是哲学家、艺术家、社会活动家、宗教家，他们不会允许科技无节制地发展。

本文来自微信公众号：经观书评 （ID：jingguanshuping），作者：张健康