当人工智能遇上费曼

本文来自微信公众号：中科院物理所（ID：cas-iop），作者：Jørgen Veisdal，翻译：Nothing，审校：Dannis，头图来自：Open University

1985年9月26日，诺贝尔奖获得者理查德·费曼（Richard Feynman，1918~1988）在一次演讲中，提出了关于“通用人工智能”（也称“强人工智能”）的问题。

当时听众提问到：

您认为将来机器会像人一样思考并且更加聪明吗？

以下是费曼回复听众问题的详细记录稿。随着通过人工神经网络实施的机器学习的出现，听到费曼在35年前关于这个问题的看法——以及这些看法有多么接近现实——是一件令人着迷的事情。

首先对于机器人，费曼对此表示：

它们是否能像人类一样思考？我会说“不会”，我后面会解释我为什么说“不会”。

关于第二个问题“他们是否比人类更智能”，必须我们首先定义什么是智能。如果你问我，机器人棋手可以比任何人类棋手都强吗？答案也许是肯定的，“总有一天我会把它造出来”。

当然，在1985年，人类的象棋大师仍然比机器棋手更强大。直到1996年和1997年，世界象棋冠军加里·卡斯帕罗夫（Garry Kasparov）和IBM超级计算机“深蓝”（Deep Blue）进行了6场比赛，计算机才第一次击败人类国际象棋冠军。在这次比赛中，比分是3.5比2.5。不过卡斯帕罗夫最终对输棋提出异议，他声称IBM团队在比赛间隙以某种方式对机器进行了干预。

人工智能效应

“一旦它开始运行，就不能再叫它人工智能了。”

—约翰·麦卡锡

费曼接下来谈到了所谓的“人工智能效应”，即已经观察到的人工智能在工作过程中性能打折扣的现象，当一个按照程序指令进行工作的机器开始工作时，旁观者认为人工智能实现的并不是“真正的”智能：

这些机器现在比大多数人都会下棋！我们一直在做的其中一件事是，我们希望这台机器比任何人类都善于下棋，而不仅仅是比我们之中的某些人厉害。如果我们仅仅是找到一台比普通人下棋更好的机器，那它不会给我们留下太多印象。我们会一直想“它和象棋大师下棋 会怎么样？”。机器需要在任何事上比所有人都做的更好——但这对机器来说很难。

制造人工智能机器

接下来，费曼通过类比自然进化出的运动模式（例如，哺乳动物通过韧带、肌腱、关节和肌肉产生的奔跑姿态）和机械设计的运动模式（使用轮子、翅膀和/或螺旋桨进行运动）之间的差异来阐述关于“心智模型”的问题：

关于我们是否能让机器像人类一样思考这个问题，我的观点是基于以下想法的：

我们试图用我们现有的材料使这些东西尽可能有效地工作。这些材料不同于神经之类的东西。如果我们想制造一些可以在地面上快速运行的东西，那么我们先可以观察一只猎豹的奔跑姿态，然后我们可以试着制造一台像猎豹一样运行的机器。但是，制造带有轮子的机器更加容易。有我们可以试着制造通过轮子快速运动的物体，甚至还可以制造一些能飞的东西。当我们制造飞机时，飞机虽然会飞，但它并不像鸟那样飞。它们不会扇动翅膀，它们的前面有另一个可以转动的装置，或者更现代的飞机有一个喷气推进装置--喷气发动机，并且使用汽油作为燃料。这和鸟不一样，对吧？

所以，这样看来，以后的机器并不会像人一样思考。对于智能来说，情况是完全一样的，例如他们不会像我们做算术那样做算术，但他们会做得更好。

超人弱人工智能

作为在进行智力任务时人造机器强于自然进化器官的例子，费曼接下来描述了超人弱人工智能（Superhuman Narrow AI）——例如计算器——和人脑之间的区别：

让我们讨论一些非常基础的数学--算术。计算器的算术比任何人都好。他们速度更快，虽然计算方法不同，但是结果是一样的，因为最终得到的数字是相等的，对吧？这是一个很好的例子。

我们永远不会改变他们做算术的方式，让它更像人类。因为那是一种倒退。人类所做的算术是缓慢的，繁琐的，混乱的，充满错误的。

如果把机器可以做的事情和人类相对比，我们发现以下相当有趣的事：如果我给人类一串数字，1，7，3，9，2，6，5，8，3，1，7，2，6，3，让他马上把数字串的顺序反过来，或者更简单的，直接复述这串数字，所有人都能做到吗？答案是否定的，这还只是数字长度不超过20的情形。但是你可以给一台计算机5万个这样的数字，然后要求它按任何方式重新排序，或者将所有数字的总和，用它们做不同的事情，等等。计算机会长时间记得这些数字。所以有些事情电脑比人做得好得多。

关于模式识别的问题

在下面的内容中，Feynman越来越接近于描述后来通过有监督的机器学习解决的问题，即大数据集的模式识别：

人类总是试图找到这样一件事，那就是他们能比电脑做得更好的事。我们知道了在很多事情上，人类可以比机器做得更好。例如，一位女士走在街上，边走边扭动身体，你可以认出那就是简，对吧？或者，有个人走了过去，你看不清他的脸，但他的后脑勺很有特点，你可以认出那人是杰克，对吧？

识别事物，识别模式，我们似乎还无法通过程序来实现这样功能。你会说，“我有一个很好的认出杰克的程序。只要拍很多杰克的照片就行了”——顺便说一下，用这种方法可以把一张照片放到电脑里，如果对这张照片的描述再细一点的话，我就可以分辨出它在不同的地方是黑或白的。你应该知道，实际上报纸上的照片是由黑白点组成的，如果你将照片印得足够好，那就看不到这些点。所以，有了足够的信息，我可以把照片载入，这样你就可以把杰克在不同情况下的所有照片放进来，然后会有一台机器来进行比较。

权衡偏差与方差

Feynman接着从本质上解决了数据训练集的方差问题，因此也隐式地解决了所谓的权衡偏差与方差的问题。在统计学和机器学习中，偏差-方差权衡是一组预测模型的性质，参数估计中偏差较低的模型，在样本之间的参数估计中方差就会偏高，反之亦然。偏差-方差困境描述了一个优化问题面临的问题，在这个优化问题中，人们试图同时将学习算法中错误假设产生的偏差和训练集里从灵敏度到小波动的方差最小化。

问题是，实际操作中新照片会带来新情况。光线不同，距离不同，头部倾斜也不同，你需要让机器可以识别所有这些变化。解决问题变得非常复杂，以至于即使有存储量巨大和计算速度飞快的大型机器，我们也无法编写一个可以应对所有情况的程序。所以，目前机器很难识别事物，但有些事情是一个人一瞬间就可以完成的。所以，有些事情人类可以做，但我们不知道如何让归档系统也能做到同样的事。这就是识别面临的问题。

这让我想到需要有识别复杂事物能力的文书职员们。举个例子，在指纹鉴定部门的员工要观察指纹并进行仔细比对，看看这些指纹是否匹配。对于一台计算机而言，这件事情虽然很难做，却是有可能完成的。

人工智能的现状（1985）

在最后一部分中，费曼描述了当年设计指纹识别机器时仍然面临的困难：

你也许会觉得做这件事没什么难的，给我两个指纹，我可以对比所有的血点是否都一样，但事实并非如此。手指上往往很脏，印下指纹时手指的角度、压力也不相同，留下的指纹也不完全是手指的同一个部位。如果你试图完全匹配同一张图片，那很容易，但是指纹的中心在哪里，手指朝哪个方向转，哪里被挤压得多了一点，少了一点，手指上有一些污垢，你的手指上是否有痘痘都会影响识别匹配效果。

这些小小的复杂因素使这台机器的工作更加困难，对于当前的系统来说，这些工作的是不切实际的，因为它的工作速度太慢了。我不知道他们现在的进展，但他们正试图快速地克服这些困难。

然而，人类可以通过某种方式快速越过这些障碍，就像他们在国际象棋比赛中所做的那样。他们似乎能够快速地理解模式，而我们自己也不知道自己是如何快速而自动地做到这一点的。

原文链接：

https://medium.com/cantors-paradise/richard-feynman-on-artificial-general-intelligence-2c1b9d8aae31

本文来自微信公众号：中科院物理所（ID：cas-iop），作者：Jørgen Veisdal