人工智能，无法复制你的心智

本文来自微信公众号：Mindverse Research（ID：gh_be9d7092abf7），作者：Mind Matters，译者：朱思嘉，审校：十三维，原文标题：《人工智能与哲学的意识对谈 | Part1：身心问题》，题图来自：视觉中国

2021年5月，Mind Matters 播客的主持人 Robert J. Marks 博士，邀请到了威斯康星康考迪亚大学的哲学教授 Angus Menuge 博士，两人从人工智能和哲学两个视角出发，针对意识的三个问题展开了深度对谈，我们将依次对这三场对谈进行翻译和分享，以探寻其对当下实现真正接近人类智能的有意识的通用人工智能有何启发。

什么是身心问题？

What is the mind-body problem?

Robert J. Marks: 

现在让我们来谈谈今天的正题。我知道你是心灵哲学方面的专家。那么什么是身心问题呢，你如何从一种“高层次”上去解释它。

Angus Menuge：

Well，真正的问题是两个如此不同的实在领域（realm）如何联系在一起。经典的身心问题是：如果你把身、心看作是事物基本范畴中的物质（substances），那么如果某个东西是物理的，如果它是身体，它就会处于空间中并在空间中延展，它是公开可见的，它是可量化、可测量的。

但是，如果我们将心智视作一种“东西”，回到前人的“灵魂”（soul）概念，灵魂似乎不会占据空间，或者至少不会以同样的方式占据空间。它不会从空间中排除其他物理对象。它在空间中没有明确的位置，也不是我们在科学中所期望的那种可以公开观察到的东西，在科学中，我们通过“内省法”可以最直接地了解我们的心智或灵魂。我可以内省我的思想，你也可以内省你的思想，但我不能观察你的思想，我也不能内省你的思想。

所以就有了这两个非常不同的实在领域，两种非常不同的东西。一个显而易见的问题是：这两种截然不同的东西如何相互作用？（普法尔茨的）伊丽莎白公主向笛卡尔提出了这个问题，她问道“如果心智移动了身体，身体似乎是通过某种冲动（impulse）或接触（contact）来移动的，但是非物质的东西怎么能传递冲动，又怎么能接触到身体呢？”

所以实际上，身心问题是关于什么是“身”与“心”两个实在领域之间的媒介/中介的问题。如果你不能回答这个问题，很多人就会对此发起争论，因此你就必须放弃二元论，即存在两种不同的物质的观念。

濒死体验

Near-death experiences

Robert J. Marks：

Okay，帮我理一下思路吧，因为我不是这个领域的专家，在我看来，最近可以区分身与心的实证证据似乎只有所谓的“濒死体验”。在过去的几十年里（我不确定具体的时间），这种体验发挥了很大的作用，因为现在我们终于有能力救活临床上已经“死亡”的人，让他们谈论心智与身体分离的体验。所以我认为这是一种实证证据，可以证明心智和身体是不同的，或者说有一部分心智不是身体的部分。那你觉得还有其他证据吗？你认为这种濒死体验是心智和身体区分的有力证据吗？

Angus Menuge：

Well，人们可以给出两种证据。一种是从心理现象学分析中得出的：有一段体验（experience）是什么感觉（这是主观性 subjectivity）；（另一种是）我们的思想可以指向别的事物，这叫做意向性（intentionality）。

因此，主观性和意向性是内省的两个属性，但是似乎没有任何自然科学证据能够揭示这一点：当你在脑成像中观察某人的大脑时；当你从化学、电子或其他物理事件的角度来思考一个人时，都没有任何理由去假设主观性或意向性。濒死体验的研究其实只是最近才出现的，因为只有在过去几十年里，才有大量的人成功地“起死回生”，并能够报告这些体验。这些证据里，最不寻常和最有说服力的正是所谓的“证据性濒死体验”（evidential neardeath experiences）。

其指的是，病人可以从大脑功能不可测量的时候开始报告，报告其看见了医疗机器上的数字、鞋子等物品的位置，或后来被独立验证的事实。他们确实回忆起了一些我们客观上证实的事情，而这些事情是他们在昏迷时不可能观察到的，因为他们昏迷的时候并不处在可以观察的客观位置上，更何况他们当时的眼睛也是闭着的。

而这也不能通过幻觉或者人恢复意识时的清醒大脑现象来解释。因为如果是幻觉的话，幻觉中的情景与现实相同的可能性几乎为零，而却有病人可以准确地报告出（位于自己身体上方数英尺处的）医疗仪器的序列号。这些证据似乎证明存在一种意识的可能性，这种意识与正常的大脑功能是分开的、不同的。

身心问题的历史

The history of the mind-body problem

Robert J. Marks：

这个话题实在是太吸引人了！你提到了笛卡尔，所以说这个心身问题已经存在了很久了。那你能讲一讲心身问题的历史吗？

Angus Menuge：

Well，我们也许可以进一步追溯。如果你考虑一下前人思考“灵魂”的历史，最初灵魂被认为是身体的形式，它赋予了身体生命（life），并在像我们人类这样的理性生命（rational beings）中，给予了我们意识。这就是你在亚里士多德和阿奎那那里得到的理解。

当到了笛卡尔那里，心身问题开始变得严峻，因为笛卡尔对不同种类的物质的本质进行了分析，而且他在这方面非常谨慎。当他审视心智时，他发现心智的独特之处在于它的状态和活动不能与之分离，所以你可以进行渴望、思考、感受，但都是同一个人在完成这些事件（it's one eye that's doing all of them）。同样，你可以在同一时间有多种体验，但它们都属于一个主体。因此，他认识到他的思想和经验不能与他本身分开。

而物理事物的不同之处在于它们似乎是可分离部分的集合。比如说一张桌子，它是由各个部分组成的。从桌面到桌腿，甚至你还可以继续分下去，直到分子、原子以及其他所有的水平。而这些部分都有可能被分离出来、单独存在。

但是，思想和经验似乎不是这样的。一个人的痛苦似乎不可能存在于他的心智之外，也不可能转移到其他人的心智之中。痛苦的部分特性（identity）与感受痛苦的人联系在一起，更一般的说，思想也是如此。因此，笛卡尔的分析似乎表明，心智（mind）和物质（matter）在根本上是不同种类的东西。

所以从那时起，我们似乎有了一个交互的问题。许多像霍布斯（Hobbs）这样的唯物主义哲学家，甚至是一些理解笛卡尔观点的人，也提出了这个问题，即他们无法真正看到心智和物质相互作用的机制或媒介。

当我想举起手臂时，我的想法似乎是我心智的某种非物质特性（immaterial property）；然而，我的手臂抬起来显然是一种物理的、生理的、可测量的活动。那我们是如何从其中一个到另一个呢？同样，如果我的脚趾受伤了，神经信号通过我的神经系统传递，最终我变得畏缩（have a quail），也就是有了一个关于疼痛的体验。在纯物理的、客观的与精神的、主观的之间，怎么会有这样一种转换呢？

关于这一点我想说，人们一开始认为你可以解决这个问题，后来他们说“好吧，我可以认同有机体具有纯粹的物理属性，但我们有两种不同的属性”。我们有物理属性和精神属性。

我认为金在权（Jaegwon Kim）说得很正确，这里有所谓的“笛卡尔的报复”（Descartes' revenge）。那些认为自己可以通过这种方式解决问题的人还没有认真思考，因为事实是，心理属性（比如主观性、意向性：即你的想法是关于事物的）与物理属性有很大不同，这导致身心问题在属性层面（level of properties）上又重新出现了。

换句话说：我为什么要思考（例如产生我想喝牛奶的念头），为什么这种心理属性有能力在我的身体里产生物理属性的变化（比如打开冰箱）？因此，身心问题实际上比人们想象的更难解决。

这也当然地导致了20世纪许多哲学家拥护物理主义（physicalism），他们声称，能够回答身心问题的唯一方法是以某种方式表明，心理要么还原为物理，要么至少完全由物理决定，这样我们就不会真的最终把这种独立的因果力量赋予心灵。

当今流行的身心问题模型

Popular mind-body problem models discussed today

Robert J. Marks：

我在人工智能方面做了很多关于涌现（emergence）的工作。我认为，如果你是一个唯物主义者，你必须相信，从进化的角度来看，心智是作为大脑的一种涌现而得以发展的。然而，所有这些证据表明，事实并非如此，心智比身体要强大得多（mind is much greater than the body can ever be）。所以我确信有许多不同的身心问题模型。那么今天流行和讨论的主要心身问题模型有哪些呢？

Angus Menuge：

Well，有一些像理察·斯温伯恩（Richard Swinburne）这样的人，实际上是笛卡尔二元论的一种改良形式的辩护人。他和其他物质二元论者一起回到了这个最初的挑战，认为它并不令人信服。因此，一个解决方案简单地指出，事实上，一般来说，在原因和结果之间不一定要有概念上或逻辑上的联系。甚至在物理层面上也不是这样：温度下降和水变成冰之间并没有任何逻辑（因果）联系。

尽管如此，我们依旧可以发现这两者之间存在可靠的联系。因此，一些二元论者认为，我们不一定需要关于心灵和身体如何交互的理论，才能说明我们有充足的证据以证明它们是相互作用的。所以斯温伯恩举了一个著名的例子：如果你在某人身上插一根针，就会引起他人的疼痛。所以在物理事件和心理反应之间有一条清晰的路径。而且看起来，我们所有的证据都表明，举起手臂的心理意志和手臂被举起的身体行为之间存在着明确的因果关系。

因此，一个解决办法是：以事实为依据。即使我们不能给出一个完全令人满意的解释，但这就是所发生的事情。然而其他人可能会说，好吧，我们必须重新认识心智，我们将不得不把它看作是来自大脑的随附（supervening）或涌现（emerging）。

不过，这最终会带来一个严重的难题，这也是金在权所要解决的。如果你想采取物理主义的路线，说明物理真的是因果力量所在，然后从那些地方出现了思想，那似乎这些思想必须是副现象（epiphenomenal）的。它们不能真正导致任何事情，因为它们被大脑的状态所抢占（preempted）了。

副现象论的观点

Epiphenomenal thoughts

Robert J. Marks：

这是一个很重要的概念，那么你可以定义一下“副现象论”吗？

Angus Menuge：

好的，副现象的意思是，某些东西是由其他东西引起的。例如，你打开冰箱的欲望是由大脑状态引起的，在这种观点中，你的欲望并不是导致你的身体打开冰箱的原因，你的大脑状态才是。

你可以在丹尼尔·瓦格纳（Daniel Wagner）的《有意识意志的幻觉》（The Illusion of Conscious Will）一书中看到这种“离谱”的观点，瓦格纳认为在现实中，你行为的欲望只是大脑支配身体的一种没有因果关系的预告。

但是现在的大多数物理学家并不希望这样。他们希望有一个心理因果关系（mental causation）的观点，因为毕竟，如果我们不是因为我们的信念和欲望去行动，那看起来我们的行为就毫无理性可言。

例如，如果我因为心理推理（mental reasoning，即可以从某些前提中看到结果），而不写下某个逻辑问题的答案，那么看起来我就好像没有真正地在推理。相反，我所做的和大多数计算机所做的差不多。计算机看起来好像是在推理，因为工程师们放了一个算法和逻辑单元，保证它的操作与推理一致，但我们认为至少普通计算机对逻辑没有任何洞察力。它并没有看到那个结论的存在，它只是被设计成能得出正确的结论。

因此，这些物理主义者的解决方案存在问题。有趣的是，随着时间的推移，他们越来越多地朝着非还原主义的方向发展，有越来越多的人开始使用涌现的说法。然而，他们似乎处于一个不稳定的阶段。他们希望心智能够“做一些事情”，因为他们认识到，如果你的思想没有真正指导你的行动，你就不再是理性的。我们就无法理解你为什么要做这种事情。

麻烦的是，还有像金在权这样的人在等着表明，很难看出一个人的心理属性如何能引起任何事情。他把这称为因果排他性问题（the exclusion problem），因为你的一切状态实际上都是由大脑引起的。那这些大脑状态不也足以引起你神经系统的下一个状态和你的身体所做的一切吗？

如果是这样，那么你的心智就真的没有任何空间来做任何事情了。心智就变得有点像在浪头冲浪，实际上只是一个多余的冲浪手，它被大脑（的浪潮）抛出，但其实没有任何工作可以让它真正去做。

或者来看赫胥黎的“蒸汽火车”比喻，在一列蒸汽火车中，蒸汽既可以驱动发动机，也可以用以鸣笛，但汽笛的鸣响对火车的运动并没有任何贡献。而这似乎就是你最终会遇到问题的地方。而令人惊讶的是，现在有一些反对意见正在获得认可，这本该是非常严重的问题。比如泛心论（panpsychism）的想法：一切物理事物都有类似心智的东西，所以最终会出现类似心智的属性。

因此，各种理论已经非常多了，而在心灵哲学中，人们唯一能达成共识的是，所有这些理论都有问题。它们的共同点是，所有的理论似乎都有严重的困难，总在某一方面上不能令人满意。

Menuge对身心问题的看法

Dr. Menuge’s take on the mind-body problem

Robert J. Marks：

那这让我想到一个问题，你是怎么看待这个问题的呢，你支持其中的哪个模型呢？

Angus Menuge：

我的看法是，物质二元论是有一定道理的，尽管我自己并不完全喜欢笛卡尔的方法。我认为奥古斯丁是对的，我们可以认为灵魂或心智是存在于空间中的，只是我们必须从事物存在的不同方式来思考。

毕竟，当我们说上帝是无所不在（omnipresent）的时候，我们不认为那是通过成为一个物理对象或排除其他物理对象的方式。凡是有形物体存在的地方，他都可以存在。而奥古斯丁的观点是，灵魂存在于身体中，无论感觉在哪里，所以它并不是笛卡尔所描述的那种没有实际位置的特殊实体（bizarre entity）。

但我也认为，仅仅说心智和身体相互作用并不能令人满意，这是一个谜，但我们有很好的证据表明它们确实如此。我希望我们能说出一些有启发性的东西。我自己的观点是，因为我受到了我计算机背景的影响，我总是可以看到（身、心）两个实在领域之间有信息传输的证据。当一个计算机科学家抽象地思考一个算法时，比如说快速排序（quick sort），那么，一旦他有这个想法……

Robert J. Marks：

请描述一下这种快速排序。我想它是一种将随机数字按顺序排列的方法，是这样吗？

Angus Menuge：

是的，快速排序是指，你有一个随机顺序的元素列表，然后选择一个基准（pivot），快速排序是一种惊人的递归函数，它对集合进行分割，然后对每个子集也进行一次分割。这真的是一个非常非常出色的算法。当它全部完成后，所有的东西都被分类了，分类成pivot、小于pivot、大于pivot或等于pivot的东西，一遍又一遍。这是一件真正美丽的事情。

Robert J. Marks：

所以你现在有一个算法，通过一个逐步递归的程序来做一些事情。

Angus Menuge：

是的，重点是它是一个通用程序。它以这种方式超越了任何物理体现（physical embodiment），一旦你有了正确的算法，并且你已经验证了它，你就可以编写无限的程序来实现它。它可以在硬件层面上进行无限次的编码。这个想法是非常抽象的，它可以一次又一次地进行物理编码。

或者说，有趣的是我们只是从一个无形的、抽象的算法中得到一个实现（implementation），right？它最终是一台机器的开关，这是完全物理的。而信息以两种形式存在。因此，我的观点是，信息有一种双面的属性（Janus-faced quality），可以成为心智和身体之间的中介。

简单的例子是日常的阅读和写作。当我阅读时，我的眼睛与书页上的物理标记相互作用，然而结果是，我有思想，我可以存储记忆。而且我大脑中的这些记忆痕迹，似乎也是物理的。同样，当我在思考一篇文章时，我的心智中有想法，这些想法被转化为我可以写下来的东西。

所以我的想法是，我们需要把人看作是一个综合系统。而这个综合系统内部有一个自动翻译功能。例如，这意味着我们可以从一个抽象的意志注意到自己想抬起手臂，完成这一切，你不需要是生理学的博士，也不需要知道到底发生了什么，对吧？

Robert J. Marks：是的。

Angus Menuge：

你有一个令人难以置信的抽象规范。每次你抬起手臂的时候，可能都是不同的。然而，一套运动程序接管了这一切。那么发生了什么？我认为事实是，你的意志被转化为一个物理指令，然后实现了这个意志。

同样，另一个例子中，当你的脚趾被刺伤，信号被送回大脑，有一个自动翻译，给你一个主观的疼痛感，然后我们说疼痛发生在脚趾。这是一种有趣的现象。它指出了损伤的位置，这是你需要知道的，但它并没有告诉你所有发生的具体神经事件。而且你也不想知道这些，因为真正指导你行动的是非常一般的东西。

如果每次我们想抬起手臂，我们都必须知道如何调整手臂上的每一个分子，或者我们必须发送什么特定模式的神经信号，这将是一个设计非常糟糕的系统。那么，我们就无法行动了。同样，如果重要的是我不要再次伤到我的脚趾，我所要记住的只是，不要像那样活动你的脚趾，而不是担心我这次是怎么做的，因为有可能，我永远不会再做同样的身体动作。

Robert J. Marks：是的。我想我们中有些人学得很慢。

Angus Menuge：没错，你说得对。

AI可能复制人类功能吗？

Will artificial intelligence ever be able to duplicate the functions of a human?

Robert J. Marks：

非常好。我们已经讨论了很久，但我还有一个问题想问你。不知道你是否想过这个问题。人工智能（AI）和通用人工智能（AGI）现在正朝着能够完全复制人类功能的方向发展。如果二元论是真的，而且心智并不完全包含在大脑中，那么你承认的话，就会有一些非算法的东西发生在人类心智或人类大脑之外。而这似乎对通用人工智能是否能够实现有很大影响。如果二元论确实是真的，那是否意味着我们将永远无法拥有严格复制人类表现的通用人工智能？

Angus Menuge：

我认为是这样。我的意思是，我认为会有人工通用智能，因为有非常复杂的学习算法可以泛化，因此它们可以从最初的训练领域转移到新的领域工作。因此，仅仅在能够正式解决问题的层面上，也就是说，有从问题到解决方案的转变，我认为在这个意义上，你可以说会有通用人工智能。

然而，你要问的是，它是否真的会复制人类心智的一切，这一点上我认为是不可能的，因为我从这些系统复杂性的惊人增强中看不到任何理由认为系统会从没有主观意识转变到拥有主观意识，或者从它的状态中产生一种真正的意向性（intentionality）去关注超越其自身的事物。

所以我认为基本问题是形而上学的。我们意识到，有一些东西是像我们一样的，我们可以思考这个世界。我们也可以思考一些有争议的东西，没有一个物理系统能够思考抽象的原则，比如逻辑法则，或者证明关于素数的定理。没有一个物理系统与这些东西发生过物理上的互动。

因此，我们思想的内容似乎表明，我们可以进入一个实在领域。在某种程度上，这是一个有点柏拉图式的领域，但如果不涉及这个问题，这肯定不是一个纯粹物理的领域。

例如，我们知道很多关于整数集（set of integers）的东西。整数的数量是无限的，例如，我们可以通过数学归纳来证明适用于其中每一个整数的定理，但是所有的物理因果交互似乎都是有限的。那么，人工智能的物理系统如何才能达到真正可以说是理解或了解这些集合的地步呢？没错，它可以通过规则，得出与数学家一致的正确输出。这是事实。但我不认为它可以真正理解什么是无限集或什么是质数。

Robert J. Marks：

即使在最基本的层面上，计算机可以计算数字2和3相加，但它并不理解数字2和3是什么，也不真正理解加法。它可以进行操作，但对发生的事情没有理解。因此，没错，我同意你的观点。我认为通用人工智能进行模仿（mimicking）是可能的，但不可能完全地复制（duplication）人类的表现。我认为那是人工智能的一个硬上限（hard ceiling）。

Angus，非常感谢你。这个问题一直很吸引人，我今天学到了很多。今天我们邀请到的是 Angus Menuge 博士，他是康考迪亚大学的哲学教授和系主任。未来我们将请他回来做另一个播客，在 Mind Matters News 上谈论一些其他有趣的问题。

对谈嘉宾简介

罗伯特·马克斯 / Robert J. Marks

Robert J. Marks 博士是贝勒大学电气与计算机工程系教授、Walter Bradley 自然与人工智能中心主任。他的研究兴趣包括人工智能、人工神经网络、统计学、机器学习等。他在 BIO-Complexity 等多本期刊中担任主编工作。

安格斯·梅纽格 / Angus Menuge

Angus Menuge 博士是威斯康星康考迪亚大学的哲学教授和福音派哲学学会主席。他的研究兴趣包括心灵哲学、科学哲学等。著作包括 Agents Under Fire: Materialism and the Rationality of Science 等。

本文来自微信公众号：Mindverse Research（ID：gh_be9d7092abf7），作者：Mind Matters，译者：朱思嘉，审校：十三维