控制论大师维纳：人和机器如何相处？

本文来自微信公众号：高山书院（ID：gasadaxue），作者：郭毅可，本文根据《高山科学经典》项目第14期郭毅可院士分享的《人有人的用处》书籍导读内容整理而成，原文标题：《郭毅可院士：人和机器如何相处？》，头图来自：视觉中国

一、为什么要读这本书？

维纳的名著《人有人的用处》主要讲的是人和机器如何相处的问题。

为什么有“人和机器如何相处”这个问题呢？

维纳在1950年的时候，就看到了这样一个未来：我们创造了新的智能机器，人类社会最重要的关系变成了人与机器、机器与人、机器与机器、人与人之间的关系。这个视角的关系就成了我们未来社会中最重要的一个关系。

1950年时，还没有互联网，计算机也才刚刚开始，他已经看到了通过信息和社会通讯设备来进行人与机器交流的研究。

在书中，维纳阐述了一个非常重要的观点：从信息角度而言，人和机器都只是信息理论的一个部分，都是信息的载体，从通讯和信息处理而言，人向机器发布命令和人向人发布命令，本质并无不同。在交往的过程中，如果一个机器能够向人发出自然的反馈，那么这个时候，人和机器应该有相同的地位。

这样一来，当机器有智能的时候，我们必须要面对和解决这样一个重要的问题：人如何与机器交流、交互和共存？

今天，我们的机器被赋予了智能，甚至人也变成了机器，产生了数字孪生。我们的通讯设备处于web3.0的虚拟世界跟实体世界共存共荣的通讯环境，无论相隔多远，都可以即时实现互相的通讯。

虚拟空间和实体空间的平行，交融的元字宙的概念，使人类社会成为了一个人机共存、共创的社会。在这个社会，人与机器、机器与人以及机器与机器之间的信息交流和相处是我们最根本的科学问题和社会问题。

郭毅可院士在高山科学经典导读现场

这本书实际上是一本预言性极强的科学名著，当下的我们更需要好好品读下这本书。

二、控制论大师维纳

天才维纳

维纳被称为控制论之父。当图灵提出“机器可以思维吗”之问时，维纳提出了《控制论》。“控制论”主要是研究生命体系统（人、动物和机器）行为的共同本质，并以此出发，研究人和机器的交互共生的机制。

维纳，图片来自：MIT

维纳从小就是一个天才，10岁就写了第一篇哲学论文《无知理论》，讲到我们对世界的认识一定是不确定的，跟哥德尔的不完备性、海森堡的测不准原理，都有异曲同工的地方。

18岁时，他拿到了哈佛生物学博士的学位。但是在读生物学的时候，他发现他自己动手能力很差，做实验缺乏耐心。于是又跟康奈尔去学了哲学，然后又回到哈佛读数理逻辑。

博士最后一年，他去了英国剑桥、德国哥廷根，从罗素、哈代、希尔伯特和兰道等几位最伟大的数学家那里求学。

在20岁以前，他就完成了作为一个科学大师的所有理论和科学准备。

全才维纳

成为了大师的维纳，更是一个全才。

在数学领域，他发明了维纳滤波器，建立了诸如维纳测度、巴拿赫-维纳空间、维纳-霍普夫方程；

作为系统科学家，他发明了控制论；

在计算机领域，冯诺伊曼体系实际上也可以叫维纳-冯诺伊曼体系，因为当时他们是一起工作的；

在生物学领域，他提出的“信息是生物系统的一个基本属性”的基本观点，直接导致了DNA（遗传信息的载体）的发现。

他的工作影响了包括玻恩、海森堡、沃森和克里克在内的诺贝尔奖得主，信息论创始人香农曾说：“通讯理论的新数学理论的一些中心观点要归功于维纳。”事实上，香农应该算是维纳的一个学生。

除此之外，今天的神经元网络、整个的强化学习系统都来自于维纳的思想，甚至神经元网络的鼻祖，比方说麦卡洛克和皮茨，都是他的好朋友。

悲情人生

维纳的婚姻是不幸的，他的夫人非常有控制欲，被戏称为“控制控制论大师的大师”。

维纳和妻子 Margaret、女儿Peggy、Barbara以及女婿 Gordon Raisbeck

他的夫人曾挑拨了他和两个有名的同伴（当时叫“控制论铁三角”）——麦卡洛克和皮茨的关系。三人关系的破裂很大程度上影响了人工智能的进程，不然深度学习也许早20年就被发现了。

作为一个犹太人，二战以后在美国的维纳也受到了一定程度的歧视，因此从麻省理工数学系辞职超过50次，但最终还是没有辞掉。

他还曾经粗暴地辞去了美国科学院院士头衔，称美国科学院是 “一帮自私、不负责任的人”，甚至公开写信登报，在会议杂志上声明与美国军方、大公司、政府断绝关系，不再为他们从事科研工作。

这些行为在美国的学术界争议很大，因此也影响了他的“控制论”在当时的传播，维纳因此也很抑郁。

维纳本人其实是很悲观的，批判了很多事，也认为人类终究会走向灭亡：“在一个非常真实的意义上，我们都是这个在劫难逃的星球上的失事船只中的旅客。但即使是在失事船只上面，人的庄严和价值并非必然地消失，我们一定要尽量地使之发扬光大。我们将要沉没，但我们可以采取合乎我们身份的态度来展望未来。”

现在我们来一起读读《人有人的用处》。

三、控制就是追求熵减

薛定谔

薛定谔在他的著作《生命是什么》中提出了“负熵而生”的观点，即生命是一个负熵系统。

熵是一个系统的混乱程度的度量，热力学第二定律即熵增定律指出，在一个孤立系统中间，如果没有外力做功，那么它的总混乱度就会不断增长。没有外力做功，世界上一切的孤立系统都是熵增的。

《人有人的用处》这本书中讲到，控制就是追求熵减，建立所期望的秩序。

书一开始就讲了生命体的定义，维纳认为，我们的生命就是一个控制的过程，要降低系统的天然的混乱度，要和熵增做斗争。通过开放来吸收能量，把我们变成一个负熵和熵减系统，使其有秩序。

所以维纳的认识论基础就是：不管机器还是人，只要他的运动是通过对环境的作用，通过环境作用的反馈来控制熵增的时候，这两者在社会上的功能都是完全一样的。在这个层面上，机器和人是相似的。

在控制的过程中，有几个基本概念需要重视。首先是控制的手段；其次是被控制的对象要有不确定性；第三个就是这个不确定性的变化要有一个衡量信息；最后是每次行动后需要对结果和目的进行反馈，再利用反馈来控制下一步的行动，使得不确定性减少。

在这样的基本理论下，维纳对“什么是进步？”和“什么是智力和学习？”这两个问题进行了探讨。

什么是进步？进步就是在混乱的全局中建立局部的有序。人类和机器一样，都是推动着进步的。但进步也是有代价的，当推动社会进步时，给了人们新的稳定性，同时也给了新的限制和新的挑战。

什么是智力和学习？维纳在这里重点强调了认知系统的可塑性和反馈。他认为对于机器也好，对于人也好，学习就是为了适应。

人之所以有特殊的学习能力，是因为人的大脑有可塑性，可以根据学习进行反馈，得到一套方法适应环境，进而改变我们大脑的记忆和神经系统结构。

反馈机制，是我们今天人工智能里面许多算法（如强化学习）的基本思想。

现在我们来比较一下人工智能的两个开山鼻祖，维纳和图灵。

维纳与图灵

四、维纳VS图灵

上图中的蓝线，我们可以把它看做是我们大脑的熵。刚出生时，熵很高，但很快它会随着不断吸收的知识而下降，成熟期的我们熵最低，最有秩序，但随着年龄的增长，熵又不断增加，直到最后熵达到最高，死亡。

在我们成熟之前，主要是接收间接知识。成熟以后慢慢就有了自己的思想，能开始观察，能用知识去改变世界，并决定自己吸收的新知识。

图灵注重人的思维，在图灵的理论中，他认为机器的“智能”是模拟人，极限就是人的智能，所以图灵测试定义“智能”为：当你问一个问题，无法区分是机器的回答还是人的回答时，就算是通过了测试。

但维纳不这么看，维纳注重的是人的行为，他认为机器通过反复探索、验证、调节所获得和人类一样完成了特定任务的功能，叫做智能。机器智能并没有设限。

所以，在这条曲线里，图灵关心的是曲线里面的部分，即记忆和运用记忆；维纳关心的是曲线外面的部分，即怎样跟世界作用和世界如何反馈。

五、维纳的影响

在书中，维纳还提到了非常多个性鲜明的观点，比如：愈是可能的消息，提供的信息就愈少；人和机器都是信息流动的载体；人最独特、最重要的功能就是把语言变成文字，进行编码等等。

在书中，关于“怎样从工业化过渡到自动化？怎样从自动化过渡到智能化？怎样把智能化变成网络化？”他讲得非常的全面。

对于新的工业革命，他认为这是一把双刃剑，这就是我们现在经常讨论的——机器可以统治人吗——这个问题的解答。

与此同时，他还提出了信息不可交易性。他不承认有信息产品，因为信息的价值在于交流，不在于储存。也提出了开放性的信息社会的可能，认为我们只有把信息开放，而不是保密或者阻改信息的流通，才能对社会的整体有序作出贡献。

“以人为本”的社会观念也在维纳的书中有所体现，他认为我们所有的研究和贡献，都一定要以人类的价值为准，或者要对局部熵减有利。

最后，他还对科学家提出了一个很重要的要求，他认为科学家一定要知道人的本性是什么。他反对重复性的、功利性的科学研究，认为科学家是科学的艺术家。

维纳的理论对社会的影响是巨大的。不管是研究经济、生物、发动机，还是计算机，都是在研究一个系统怎么样在反馈中不断地自我调节、自我净化。国家管理也是一样，甚至有些国家（比如70年代早期的智利）就是拿维纳的理论来统治社会的。

实际上在当下，维纳的控制论观点又有了要火热起来的节奏，很多人认为处在现在的大数据网络时代，我们完全可以用计划的形式来管理我们的经济。

六、假如维纳活到今天

假如维纳活到今天，他肯定会为深度神经网络、为基础的人工智能欢呼。

因为在书中他就谈到了“格式塔陷阱”。

所谓格式塔陷阱：即旋转不变性。比如我们看一个圆，横着看、侧过来看，它都是个圆，它怎样变化和它的位置无关。这是卷积神经网络的一个基本思想

维纳的反馈理论放到今天来指导机器学习，就是强化学习。

假如维纳活到今天，他会对人工智能的发展使人民失业更担忧。

因为他一直认为机器发展以后，会使人变成奴隶。但实际上这是不对的，因为技术的进步可以提高自然资源的利用率。

假如维纳活到今天，他会赞成智能合约、区块链而反对去中心化。

因为他无法想象一个自组织机构自下而上没有中央控制的情况，这会不利于控制和熵减。

假如维纳活到今天，他不大会欣赏大数据，因为他反对信息交易。

他欣赏的是大数据对人类的贡献，但数据不能成为商品。为了评职称晋升发的文章和为了赢得粉丝而发表的作品无法产生维纳意义下的信息。

假如维纳活到今天，他会对元宇宙报以极大热情。

他认为，如果我们不仅要生存，而且要作为一个文明和物种兴旺发达，我们必须把这些相同的情感和尊重的价值观编码到我们的机器、信息系统和通信技术中，这样新的模式被用来造福人类，增加人类的闲暇时间和丰富其精神生活，而不仅仅是为了利润和对机器的崇拜。而这跟我们今天讲的元宇宙是非常接近的。

假如维纳活到今天，他会认为控制论可以解决很多的问题。

可以解决全球变暖，可以用控制论来控制电网，使各种技术容纳于其中。

但维纳一直都有一个非常大的担忧，他觉得自己像个盗火的普罗米修斯，把机器带给了人类，但总是担心人类屈从于机器，放弃了选择和控制的权利。

所以这种担忧也是他写这本书的一个前提，他要告诉世人：不管机器怎么好，你们都不可以把自己的责任交给机器，这就是你们都最终的责任！

因为，人有人的用处！

郭毅可：大数据专家、英国皇家工程院院士、欧洲科学院院士、香港浸会大学副校长、香港科技大学首席副校长

本文来自微信公众号：高山书院（ID：gasadaxue），作者：郭毅可