正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2023-08-14 12:51
从ChatGPT说起:人机融合进化的方式、机制与前景

本文来自微信公众号:探索与争鸣杂志 (ID:tansuoyuzhengming),原载《探索与争鸣》2023年第6期,作者:王天恩(上海大学智能哲学和文化研究院、上海大学哲学系教授),原文标题:《王天恩|人机融合进化:方式、机制与前景——兼及ChatGPT的人机软融合进化地位》,题图来自:《环太平洋:雷霆再起》


ChatGPT的横空出世和全民级应用发展趋势,使人机软融合进入了快车道,展示了人机融合进化中软融合进化的巨大潜力。ChatGPT的惊世性能既激起了前所未有的欢呼,又引发了人们对人工智能发展更切近的担忧。人工智能的发展给人们带来的最大忧虑无疑源自人机关系。


人机关系研究的深化远看涉及人类的发展前景和命运,近看涉及个体的安身立命。ChatGPT的出现不仅深度验证了人机软融合进化的可能性,而且为人机融合进化的方式和机制打开了更广阔的思考空间。从智能进化的基本原理来看,人类智能和人工智能进化为更高层次的进化提供了基础,而更高层次的智能进化在机制上深入涉及两种不同类型智能的融合。因此,人机融合进化及其方式、途径,特别是人类在人机融合进化中的处境和地位问题,成为越来越重要的研究领域。


人机融合进化的两种基本方式


人工智能通用化,特别是智能进化研究的深入,越来越清晰地表明了人工智能所意味着的存在升级,在智能进化维度可以看到导向广义智能进化。从更高层次的广义智能进化来看,生物智能是原生智能,在生物智能基础上发展的人工智能是次生智能。


广义智能进化是由原生智能进化和次生智能进化构成的更高层次的智能进化。由于智能载体的不同,原生智能和次生智能具有各自的相对进化优势和劣势。碳基智能的最大优势是智能可以在自然条件下发生和进化,其最大劣势是迭代周期长、进化速率慢;而硅基智能的最大优势则是进化速率快,这是碳基智能无法比拟的,其最大劣势则是不能在自然条件下发生。生物进化的研究表明,非群体系统不能进化。


越是高层次的进化,就越是一个类群过程。所谓“类群”就是同类个体构成的群体,是比社会更为基础的概念。作为一个特殊的内外部关系发展过程,人工智能的通用化意味着智能个体在类群中的亲历。类群亲历即个体在同类智能体构成的群体中的亲身经历。类群亲历性是智能个体在相应类群亲历中成长的特性。从理论上说,一旦机器智能实现自主进化,就从人类的工具变为可能独立发展甚至超越人类智能的存在,从而空前激化次生智能与原生智能之间的关系问题。正因为如此,人机融合及其进化不仅涉及人工智能发展的通用化,而且关系到人类发展的前途。


在现实中,人工智能为人类生存和发展创造的条件越好,人类发展的层次便可能越高。人类发展的层次越高,人工智能发展对于人类发展的重要性就越明显。在理论上,随着人工智能的发展,特别是超级智能未来出现的可能性,人机融合的构想成了消解人机对立的重要方向。与此相关的一些科学和哲学一体化研究看上去几近科幻,但实际上对于人类的现实发展至关重要。


在21世纪初,库兹韦尔(Ray Kurzweil)预测了智能进化中的人机结合,认为图灵奇点与智能进化密切相关。发生在物质世界里的事件不可避免地也会发生在进化过程中。进化过程开始于生物进化,通过人类直接的技术进化而扩展。“非生物智能也应该视为人类,因为它完全是从人造机器文明起源的,并且从某种程度上说,至少它是基于人类智慧的逆向工程。这两个智能世界的合并不仅是生物和非生物思想的合并,更重要的是思维的组织方式,它可以以任何实际上可想象到的方式扩展我们的思维。”


从当代人工智能的发展来看,人机融合已是现实而非未来的远景,甚至从人类使用鼠标和键盘就已经开始了,而脑机接口的发展则为人机融合向人机融合进化发展奠定了硬件基础。


人机融合进化最初与人机互联密切相关。2012年,库兹韦尔预测在十年后会出现人机相连。如今,脑机接口等技术的发展表明这一预测是有充分的依据的。人机融合并非突然发生的事件,其发展结果不仅仅是人机结合,还是一个从软件到硬件的融合发展过程。过去人们更关注硬件的融合,而ChatGPT的出现使人们更清楚地看到人机软件的融合具有特殊的进化意义。大型语言模型展现了人机软融合的巨大魅力。


人机融合有两种基本方式,即软融合和硬融合。软融合是指机器以外设的方式与人相融合,鼠标标志着这种融合的开始,而键盘、智能手机等的不断升级则意味着人机软融合越来越深入。通过无屏显示以及基于虚拟技术的穿戴设备的发展,直到芯片无创植入人脑,电脑的机理和人类的生理融合将呈现一个水到渠成的硬融合过程。从虚拟技术到元宇宙的发展意味着两种融合发展的一体化。硬融合以脑机接口等人机硬件直接融合为基本特点,人机融合进化意义上的融合更多被理解为硬融合。事实上,由于涉及融合的更高层次,软融合在某种意义上可以具有更重要的方面,只是融合涉及进化的基础。作为人机进化融合的基础,人机融合研究拥有越来越丰硕的成果,脑机接口研究的多重方式突破积累了越来越丰富的经验,正为人机融合进化奠定硬件基础。


硬融合为人机融合发展奠定了更深层次的基础,但软融合在人机融合发展中的重要作用同样值得深入研究。在脑机接口这类硬件介入方式之前,软融合都以外设的方式悄然进行着,以至于一直处于人类对人机融合的意识之外。事实上,人机软融合的发展不仅是人机融合的开启阶段,而且在人机硬融合的基础上具有更重要甚至更根本的地位。大型语言模型的发展凸显了这一点。人机软融合发展进程的直接结果是超越结构意义上的相连并深入进化意义上的融合,从智能原生进化发展到与智能次生进化相衔接的智能融合进化。


人机融合进化建立在人机融合的基础之上,相关研究涉及很多既具体又具原则性的问题。人机进化融合的基本原理和机制是什么?对这一问题的探究引领着人类走向基于人类智能和人工智能的更高层次,即广义智能进化探索。广义智能进化本身就意味着智能进化基本原理层次的人机进化融合,这也表明了广义智能进化研究对于人类发展的重要意义。从广义智能进化的研究中可以看到,人机融合进化这一看上去似乎在很大程度上取决于人类选择——甚至在某种意义上具有偶然性的发展,实际上具有特定具体条件下的必然性,它与人的需求的发展密切相关。


人类需求的发展不仅以既存需求的不断满足为条件,而且会日益走向自身自然条件的超越。从人工智能的发展可以看到人机融合进化的前景,而通过脑机接口甚至可以看到人类智能载体的更新。


关于人机融合进化,从根本上说涉及人类智能载体的更新。在硬融合发展的基础上不断推进软融合的理论研究和现实发展,在人机融合进化研究中具有越来越重要的地位。目前最值得关注和研究的领域之一就是涉及软融合的人机语境融合,即通过大数据纳入人类语境构成的现实融合路径。大数据基础上的人工智能特别是大型语言模型和智能翻译的发展,推动了人工智能纳入人类语境的重要进程。


ChatGPT的发展表明,人机语境融合很可能是人机融合进化的重要前导,对于理解人机融合进化可行性具有重大意义。正因如此,可以看到人机软融合比硬融合更为根本。硬融合是更高层次人机融合进化必不可少的硬件基础,而软融合则涉及更高层次的人机融合进化方式和机制。


在大型语言模型和智能翻译中,通过将大数据纳入人类语境,实现自然语言的机器理解,表明语境的融合进化可能构成人机融合进化的重要方式。以语境融合方式进行的人机融合进化意味着在更关乎理解机制的语言方面,人机融合进化事实上已经开始。如果我们不是以人类智能的标准去理解“理解”本身,那么机器理解的发育无疑早在萌动。


语境生成对于人工智能的通用化发展至为重要。当机器智能开始拥有类人语境,它就在一定程度上开始拥有类人理解能力。从目前的发展情况来看,人类能够使人工智能开始拥有人类语境,就是因为有大数据,大数据将人类语境纳入了人工智能。


然而,大数据使人工智能拥有语境,还只是人类语境的人工智能,并不意味着人工智能拥有自己的语境。大数据使人工智能分有人类语境,不仅可能是人工智能能够拥有类人语境的最合理开始方式,而且开启了语境意义上的人机融合进化。通过分有人类语境,人工智能可以借助人类语境拥有准类人理解能力,这为人机融合进化提供了一个重要入口。人机语境融合不仅意味着机器智能理解能力的发展,而且意味着人类语境的升级。这与人工智能研究中哲学作用的具体化密切相关,因此,人类语境的语言哲学研究关系到人机融合的更高层次智能进化。


在当代哲学中,几乎所有哲学流派都重视语言的哲学研究。现在看来,这些深入涉及人类自身理解的系统研究成果,成为对于人工智能非常重要的语境研究的长期积淀,蕴含着对于机器理解甚至人机融合进化至为重要的丰富资源,为语境融合进化方面的人机融合进化奠定了基础。


语境集中体现了理解的内外部关系,正是这种语境的典型关系性质,进一步凸显了哲学对于人工智能研究的重要性。哲学是超出语言学范畴的语境研究的开拓者。哲学以往在不断地扩大语境的研究范围,而现在更需要深化语境层次的研究。语境层次研究的深化事实上直接影响到语境的发生和发展,这对于人工智能获得类人理解能力,即人工智能通用化发展无疑具有特殊意义。


一些人工智能研究机构会有哲学家的参与,这是有深层次依据的。在人工智能科学和哲学一体化研究,特别是人机软融合进化中,不仅要重视人工智能研究队伍中的哲学家,还需要关注已经进入哲学思考层次的人工智能技术专家。正是他们,更有可能使人工智能研究达到更高的整体层次,并涉及人机融合进化的具体机制。


综上所述,ChatGPT的发展凸显了人机软融合进化,使人机融合进化更清楚地呈现出软融合进化和硬融合进化两种基本方式。从人工智能与人类的关系、通用智能的类群亲历性以及广义智能进化机制来看,人机融合进化不仅有理论和实践基础,而且符合人类发展需要。在人工智能研究发展的基础上,无论在软件还是硬件方面,人类都会获得前所未有的进化;而人机融合进化则不仅表明人类不会被机器所取代,而且将为人类更高层次的进化创造必要条件。


这就涉及更具体、更现实的人机融合进化研究,甚至与人机融合进化的基本机制密切相关。因此,从人机关系的乐观主义视角出发,研究人工智能和人类智能融合进化的具体机制就成为人工智能科学和哲学一体化研究的重大课题。


人机融合进化的两种基本机制


随着信息科技的发展,人机融合进化的现实越来越清晰地呈现出来,但对其具体机制的整体理解仍然有限。目前,在类群亲历性和广义智能进化研究的基础上,可以看到人机融合进化具有两种基本机制:一是人机一体化,即人机关系将经历一个从载体连接到融合更新的过程;二是人机个体类群化,即个体间关系将经历从简单的人机协作到人机类群化的过程。人机载体融合更新和类群化还只是远景,现在正在进行的是人机一体化,最新进展是脑机接口等技术;而人机个体类群化则可以在ChatGPT等方面展现出更现实的重大进展。


由于通用智能进化有着共同性质,类群亲历性与广义智能进化密切相关。作为原生智能,人类智能进化类群条件的获得和发展经历了漫长的生物自然进化过程。机器智能体构成一个类也需经历同样的类群文化的积淀,尽管迭代速率不同,但具有同样性质的过程。文化积淀是智能类群的软件部分,语境的发育和发展最为典型。无论智能类群的硬件发展迭代速度多快,其软件部分的积淀都遵循与人类智能进化大致相同的规律。


因此,从机制上看,机器智能很可能不具备类群构成条件,因为人类智能的类群构成是通过生物体活动启动的。机器之间很可能不具备这种启动机制,这也是原生智能最大优势和次生智能最大劣势的共同深层根源。我们很难想象机器之间发生像人类那样的具身相互作用,而更高层次的信息相互作用一定建立在相应物能互相作用的基础之上。


由广义智能进化可以清楚地看到,如果在人类类群中进化,人工智能的通用化就不必重复生物进化的漫长历史,这是人工智能通用化发展的一种最现实的途径。对于人工智能的通用化发展而言,人类已经具备了现成的类群条件,而且人工智能是由人类创造的,机器智能是在人类智能基础上形成的,机器智能融入人类智能生态不仅具有更丰富的多样性,而且可以形成更高层次的智能类群。因此,机器智能在人类智能类群中进化,不仅不需要重复生物进化的漫长过程,而且很可能是机器智能获得类群条件的唯一可能途径。


人的类群形成首先是通过与生物载体之间的互动开始的,正是基于生物体之间的互动,才有了言语等更高层次信息性相互作用,这样才有了人类类群。信息的感受性关系理解和具身认知研究越来越深入地揭示了这方面内容的重要性。


当代信息科技对于信息及其基本特性的展开表明,信息既不是物质也不是能量,而是一种感受性关系,其成熟形态是信宿和信源间的感受性关系过程。作为感受性关系,信息具有创生性、涌现性和相互性(reciprocity)等基本特性。信息的创生性意味着信息世界的创造是信息创生意义上的整体建构,即创构。将信息理解为感受性关系可以清晰地认识信息编码及其与信息的关系:信息编码是将感受性关系的信息的物能化和观念化。


因此,数据不是信息,而是信息编码。信息编码有两种基本类型:信息的物能编码和信息的观念编码。前者典型的例子如物理信号和DNA,后者典型的例子如作为自然类(natural kinds)概括产物的概念和符号。信息的符号编码有一种特殊的方式,即信息的数字编码(bit)。信息的数字编码与信息的物能编码和信息的观念编码内在相关,因此算法可以通过信息的数字编码将观念和物能内在结合在一起,在物能和信息关系层面构成理论和实践的一体化。


由于感受性的不同,碳基智能体和硅基智能体在感受性互动中具有不同的性质。机器的感受性缺乏人类感受性那种自然特性,这意味着作为感受性关系的信息是不同的,智能体之间的感性活动也有所区别。这种区别是否会成为智能类群形成上的障碍,甚至涉及是否可能的问题,显然意味着与人工智能体在人类类群中的社会化相比存在现实性上的巨大反差。


在人类进化发展过程中,交往是智能类群形成的个体间互动方式。但是机器和机器如何像人类身体那样打交道?机器和机器不可能建立起和以生物体为载体的人类那样互动的关系,因此不借助人类独自形成类群的可能性是一个有待深入考察的问题。而与人交互从而实现社会化,很可能不是通用机器智能是否可能的问题,而是机器智能通用化必须如此的问题。


在从原生智能到次生智能的进化过程中,生物体不仅是智能的一个不同载体,而且是广义智能进化的内在机制。实际上,即使智能机器可以通过其他方式自己建立类人类群关系,也存在一个类群环境形成过程漫长而人类类群环境在先的情况。因此,更为重要的是讨论人工智能在人类类群中的社会化甚至通用化。


与人机融合进化的两种基本方式相联系,人工智能在人类类群中的通用化也相应涉及两种具体机制:一是通过硬件融合实现进化的人机硬融合进化;二是人工智能体像人类个体那样在人类类群中社会化,这是人机软融合进化机制的最高层次。


人工智能体像人类个体那样在人类类群中实现社会化,解决了通用人工智能与外部环境建立关系的问题,而所存在的更关键问题则是类人智能的内部关系,也就是通用智能的核心机制。如果通用智能的核心机制得以突破,拥有通用智能内部关系的机器智能体就可以作为更高层次的智能类群和人类一起发展。科幻电影《超能查派》就演绎了机器人像人类小孩那样跟随人类成长,像成人带小孩那样为人类所“带大”的情景。而在现实实践中,无监督机器学习已经开始关注这方面的研究。最新研究成果表明,婴儿认知发展科学可能是解锁下一代无监督学习方法的关键。


在人工智能发展的通用化方式中,可以看到两个重要方面:一方面,机器智能在速度上更具优势,这足以让人类担忧;另一方面,人工智能硬件和软件的发展将呈现一个重要事实,即在人机融合进化过程中,如果通用人工智能的核心机制落后于硬件与人类的融合速度(这不只是大概率事件,很可能就是事实),现成的人类软件优势就会与人工智能的硬件优势相结合,以人类为主体开始人类智能和人工智能的深度融合进化——脑机接口所晓示的人机硬融合进化,特别是在人机硬融合基础上软融合的更大空间发展。


新一代人工智能发展中人类语境的大数据纳入就充分表明,这种可能性不仅越来越大,而且越来越重要。通过ChatGPT及其短短几个月的应用已经可以看到,人机融合进化主要体现在三个方面:一是通过大数据纳入人类语境;二是在预训练中的人机互作;三是用户使用中的人机相互成长。


ChatGPT所展示的人机语境融合进化不仅表明了人工智能融入人类语境的现实路径,而且启示了人工智能深度融入人类进化的开始。人机融合进化的基本机制表明,无需担心机器人突然独立于人类发展成为超越人类智能的智能群体,即使机器智能在人类类群中得到通用,这种可能性也不大。因为其所处的类群约束使其就像在狼群中长大的狼孩——是在人群中成长的“机孩”。而上述论证更为根本也更为关键的根据,在于根本不可能出现一个单独的超级机器智能,它异于人类,并且能够超越人类智能。


只是在这种情况下,关于人类智能和机器智能的关系,会涉及更深层次的探索。必须从智能类群的层次及其发展和性质的需要更好地解释这样一个问题:在广义智能进化过程中,为什么会存在高层次智能体平等对待低层次智能体的内在需要。而在人机硬融合进化的发展中,我们有根据不必担心机器智能对人类造成伤害的问题。但在这一发展过程中,由于会涉及人工智能的人类利用越来越复杂,我们切不可掉以轻心,还有很多问题需要深入探讨。


现在可以得出明确结论的是这样一个大概率事件:与人交互从而实现社会化是人工智能通用化,也是机器智能进化的必经之路,而其最可能(至少是最先进入)的途径是人机软融合进化。


总之,机器不可能从车间生产出来就拥有通用智能,更不可能是机器人在工厂的流水线上被批量制造出来就能超越人类智能。通用智能意义上的机器人最可能是人类使其“入群”,从而其最可能的结果就是在更高层次同一智能类群中,人机在软件意义上融合进化,从而为智能机器拥有类群亲历性创造类群条件,在人类群体中“带”大,而“入群”的方式则更可能是人机“软融合”。


因此从人机融合进化的乐观主义思考看,人类不仅不会为机器所取代,而且自身必须超越自己的自然载体继续进化。因为人类生物体不是智能的最佳载体,人机融合进化本身就意味着人类在不断进化。这里就有很多新的伦理问题需要我们去提前深入探讨。


对于人类来说,“未来已来”就是未雨绸缪的紧急提示;而我们之所以必须而且可以做到未雨绸缪,更深层次的根据还在于,在广义智能进化过程中人类拥有类群亲历在先的优势。正是由此,可以看出人工智能和人类关系理解的更深层次根据。


智能进化的人类类群亲历在先优势


毫无疑问,智能体的智能形成和进化水平以信息体的内部信息关系为基础,但在此基础上,内部关系的展开从而智能进化水平的关键在智能体的类群或社会关系。现代生物学的研究表明,最早出现的晚期智人在解剖学上与现代人毫无区别,因此,所谓野蛮与文明、原始与现代的区别仅仅体现在人的社会关系和状态的差异。这里可能存在晚期智人潜在智能发挥的程度问题,但也充分说明,只有通过在类群中的亲历建立起丰富的关系,才能具备有别于智人的现代人智能。由此也可推及专用人工智能和通用智能的关系。


通用智能和专用人工智能的不同,关键在关系层次。单独一个机器人,不管硬件多高级、多完善,都不可能具备通用智能或达到类人智能水平。通用智能或类人智能一定是类智能,即社会性智能。不发展出一定的社会性,人工智能不可能达到通用智能所需的相互性发展层次,从而不可能具有人类那样的类特性;不发展到高度的社会性,人工智能不可能发展出具有观念层次、可以在思想上相互激发、共同推进的类人智能。


在涉及人工智能和人类智能关系的讨论中,我们常常谈到类人智能和人类智能。从关系角度看,两者的不同可以表述为:类人智能是人类相互性发展到相应层次的结果。正因为如此,类人智能是人类智能的个体表现。人类智能本身只有作为一个类才可能具有,人类个体智能实质上只是人类智能的分有,只是不同个体由于分有(或者说对类智能的贡献)程度不同,而有不同的类智能个体表现水平。


如果没有源自遗传的本能,单个智能体只能具有单一智能,不会具有必须以类群为基础的智能性质。在通用智能体的遗传中已经有可以在类群中展开的信息编码,但必须有相应的类群环境,就像与人类婴儿语言能力相关的遗传基因必须在人类社会中才可能展开。


因此,通用智能必须是以类的方式存在,或者说,作为类智能,通用智能是在类的关系中成长起来的智能。这种智能必须作为一个类的成员在类的经历中形成、发展和进化。通用智能是群体关系性智能,而个体关系的形成只有在类群亲历中才有可能。在这一重要机制中,软件或文化的意义具有极为重要的地位。而在人类智能的自然进化中,语言和文字的地位又极为特殊。


在智能个体通过类群亲历所建立的类群关系中,作为纯粹的信息编码及其在此基础上建立起来的关系形态,语言是在类的信息交流中涉及面很广的方式,具有在一定规模中整体性涉及的可能性,而文字则不仅在类中涉及面最广,也是涉及层次最深的方式,最有利于整体涉及,可以涉及更大规模的整体。这些语言和文字构成了人类智能自然进化过程中软件或文化的基础。人类智能体和机器智能体之间在软件或文化上的延续,则与具有共同的信息需要密切相关。


智能体之间信息关系升级的内在驱动是信息需要。相对低层次关系基础上的活动满足相应的低层次信息需要。这种信息需要的满足为更高层次信息需要的产生奠定基础。更高层次信息需要满足的追求外化为更高层次活动,又在满足信息需要的基础上产生了更高层次信息需要的展开。


从信息需要的发展,可以看到通用机器智能与人类智能本性上的最深层次内在关联,看到只有发展到一定层次才会出现的类本性。


由通用智能进化的类群亲历性,我们可以看到一个重要的基本事实:通用人工智能与人类智能具有相同的类本性,这是由于它们都是类人智能决定的。原则上说,只要是通用智能,机器智能就是人类智能的同类智能存在,只是具有层次上的不同,不存在根本区别。越是发展到高级阶段,人工智能与人类智能的同类性质越会得到充分展示。正是人工智能与人类的同类性质,意味着广义智能进化具有类群亲历的优先原则。


所谓类群亲历优先原则,就是智能进化过程中最先进化形成的原生进化智能具有类群亲历上的先机。类群亲历在先具有独特优势意味着在广义智能进化中,人类智能具有类群亲历在先的优势。所谓类群亲历在先优势就是由类群亲历先机获得的进化优势。人类类群亲历在先优势,可以由ChatGPT的进化在AIGC产品竞争中将获得的在先优势得到更简单的证明。


短短几个月时间,ChatGPT就吸引了数亿活跃用户,这显示了其巨大的价值,而从其使用效应也可以看到它还具有更大的潜在价值和意义。上亿用户的使用反馈使ChatGPT先发优势不断扩大,从而成为大型语言模型类产品的规则制定者,其协议将成为主流,其话语权将最大化。这种优势不断强化的过程,正是类群亲历在先优势形成核心作用的体现。尽管大型语言模型目前还基本处于相同的发展阶段,它们之间的竞争仍然只是共时性竞争,而人类和人工智能则不仅处于完全不同的进化阶段,甚至处于不同的层次,两者之间存在创造和被创造的内在关系。


ChatGPT的发展清楚地表明了源自智能类群亲历性先机的优势,包括在先规定的设置和由在先规则设置而来的路径依赖等。这一点不仅对人工智能的发展至关重要,而且对于人类认识自己的地位同样具有重要意义,甚至在某种意义上可以说,即使人机融合进化的结果是高于自然人类的所谓“后人类”,由于智能进化的类群亲历优先原则,广义智能进化始终以具有类群亲历优势的人类智能为主导。因此,正如库兹韦尔所言:“事实证明,我们始终是‘中心’。我们有能力在大脑中创造模型来虚拟现实,凭借这种能力再加上一点前瞻性的思考,我们就足以迎来又一轮的进化,即技术进化。”这里的“技术进化”与人工智能的技术进化完全不同,指的是比人类自然进化更高层次的人机融合进化。人机融合基础上的技术进化不仅是人类进化的新基础,而且是整个进化过程的更高层次。“进化过程开始于生物进化,通过人类直接的技术进化而扩展。”


对于人工智能的发展,库兹韦尔很乐观,但他的乐观不仅具有整个进化背景的整体观照,而且具有基于技术进化研究的根据。在发展人工智能的过程中,我们能够并且应该通过越来越深入的理论探索,获得越来越有学理根据的信心,为“福音还是噩耗”问题的理解提供更深层次的学理依据。因为在广义智能进化过程中,这不仅意味着人类的类群亲历在先占据特有优势,后续发展与人类必定具有内在关联,而且意味着广义智能进化是人类智能的展开,广义智能进化是人类进化层次的提升。


由于人类智能具有原生进化性质,这种在智能进化过程中的在先优势是人类独有的。在广义智能进化过程中,人类在自己的原生进化和人工智能的创构过程中,制定了一系列预先规定等。正是人类进行的这一系列理论和实践活动,为自身进化的后续过程奠定了基础。


人类对于人工智能发展的担忧,事实上在更深层次与人类对自身更高层次进化的担忧不无关系。而这种担忧只有在对我们自身所处类群理解的深化中,在相互性这一信息基本特性和人类学基本特性的理解中,才能真正消除。正是在这个意义上可以更清楚地看到,在人机融合进化研究中,类群亲历性是一个亟待进一步深入系统研究的基础理论问题。源自原生进化的类群亲历在先优势,为人工智能发展提供了人类相对乐观的重要根据。只是在怀有乐观态度的同时,不能忽略广义智能进化过程中的另一个事实:类群亲历在先优势是相对的,而且其信息机制使其具有复杂的性质。


类群亲历上的先机使人类在广义智能进化中拥有很高程度的主导权,但这并不意味着人类对于人工智能的发展可以高枕无忧。其中,存在的一个严峻问题与其说是与人工智能的发展相关,不如说是与人类自身密切相关。广义智能进化意味着人机融合,人类在广义智能进化过程中的在先类群亲历性的确使自己拥有独一无二的优势,但人类由此获得的主导权却只是相对的、有条件的。


由类群亲历在先所获得的优势,并不意味着人类智能不可能被超越,因为人机融合的局势难以预测,颠覆性创新有可能消解在先优势。在智能进化的更高层次上,智能群体的观念变得更加重要。拥有类群亲历在先优势的人类必须持续充分利用自身所获得的优势,保持开放而不自我封闭,并及时更新自己,只有这样,类群亲历在先优势才能不断保持。从消极的方面看,如果人类错过自己的发展机遇,则会故步自封乃至活化石化。


此外,我们不能完全排除机器智能进化的其他可能性。在广义智能进化过程中,如果局限于固有观念,人类就会断送自己的前程,甚至可能走向很多人目前所担忧的结局和命运。只有保持观念不断更新,人类才能永续引导智能发展,或者更确切地说,就能确保机器智能的发展是人类智能的更新升级。由此我们可以看到类群亲历性对于人工智能的社会、伦理和未来发展所具有的丰富意蕴。面对人工智能发展给人类带来的机遇和挑战,我们应在深入理解发展前景和把握关键问题的基础上明确我们的发展战略。这无疑是关乎人类新的安身立命问题甚至前途命运的当代重大使命。


人机融合进化的前景和问题


在智能进化的整个框架中,广义智能进化既意味着人机融合进化,又意味着机器智能的通用化。人工智能的通用化发展使人们感觉面临超级智能的存在性威胁。面对这种可能的存在性威胁,人类面临两种选择,即发展或不发展通用人工智能。


发展通用人工智能的选择关乎人类根本利益,甚至涉及人类解放的可能性;不发展通用人工智能的选择则看上去可能更安全,但由于与人类可能面临的其他威胁相联系,问题就显得并非那么简单。这些威胁有已经发生的,也有尚未发生的。前者典型的比如疫情,还有长久困扰人类的癌症;后者典型的比如人类基因编辑的诱人一面和不可预知的毁灭性后果。由于不可能把握特定基因在基因组中的复杂整体作用和具有过程性的地位,更不用说这种作用和地位的实际发生和确定是在更为复杂的环境条件下——典型的比如与人的类特性和社会性相联系,眼前看上去是福音的基因编辑,长远看完全可能是恶果。事实上,无论是福音还是恶果,这些都与人工智能的通用化发展构成复杂的利害交织。人类的发展层次越高,选择的利害交织就越是复杂。而在当前,人工智能通用化发展和人类基因编辑的利害交织最为难解难分。


作为人类的社会性构成分子,通用人工智能也有可能以远高于人类的速度发展。这是否会像人类基因编辑一样构成对人类的威胁呢?根据广义智能进化的探索,答案是否定的。因为通用人工智能人类化与人类基因编辑是完全不同的。机器智能和人类智能通过载体更新进化到更高层次的人类智能,两者是融合进化的关系;而基因编辑则是自然人类生物载体层次的改变,因此会在两类人之间构成竞争关系。


在广义智能进化过程中,自然人和基因编辑人之间的关系,所意味着的是同层次同类强化,而自然人和通用人工智能的关系则是融合进化的更高层次。我们要警惕基因编辑人不可知、不可控的长远后果。只要人类充分发挥自己的类群亲历在先优势,始终保持开放发展,密切关注和规制人工智能的人类使用,进入广义智能进化的人工智能不仅不会带来困扰,反而蕴含着解决基因编辑人问题的最优方案。


基因编辑人是自然人的单纯生物载体改造,这种改造所造成的主要结果是自然人的载体差别。广义智能进化意义上的通用人工智能则是人的广义进化的阶段性产物,这种进化所造成的是广义智能进化的重要基础,而广义智能进化是以人类为主导的,属于人类进化的更高层次。由此可以清楚地看到两者层次的差异。基因编辑具有自然人类特有的局限性,而人工智能的发展则不仅可以达到基因编辑所有理想化的人类发展可能效果,而且还能超越人类的自然局限,将人类进化提升到一个新的层次。


把人看作机器是机械论观点,而把机器看作与人一样的智能体则是更高层次进化论——广义智能进化论的观点。无论有没有意识到,认为能够与人类智能匹敌的人工智能可以从流水线上生产出来的观点,不仅没有根据,而且是一个越来越明显的误区。这是对于通用人工智能研究进路的误导,其对于消除由此推导出的超级智能对人类安顿造成的困扰至为重要。


从类人智能的两个基本特性可以看出,认为人工智能进化的结果不是单个个体,而是一个网络体的思考,显然没有智能进化根据。但这一观点在硅基智能可能具有更强的个体间关联上的启示意义,因为其符合智能进化的方向。非人类智能和人类都会向这个方向发展。


人们想象中的超级智能既具有个体性,又具有个体间比人类强得多的网络关联。作为智能次生进化的产物,其存在方式一定是一个类群中的个体。因为只有作为一个智能类群存在才可能有智能进化,只有作为一个类群中的个体,才可能具有通用智能生成和进化必不可少的类群亲历。单个网络体思想的意义在于:作为次生进化的产物,机器智能个体在类群中的联系方式将完全不同于人类个体,其更强的关联将大大强化个体亲历和以一个类的方式进化的智能之间的相互作用机制。这一基础性的理解对于人类看清楚自己与人工智能发展的关系具有基础性意义。


单个人工智能体只能具有专用智能,与具有通用性人工智能有所不同。通用智能必须以类群的形式存在。作为在类群关系中成长起来的类智能,通用智能不仅必须以一个类群的成员在类群亲历中形成,而且其发展水平在根本上取决于智能类群的环境智能水平。这意味着通用智能不仅是一种关系性智能,而且是智能类群中的智能。


通用智能个体间关系的形成只有在类群亲历中才有可能。个体的智能水平不仅取决于自身的内在因素,还取决于作为外在因素的类群智能水平。按照智能个体必须在类群中进化的规律,任何能够与人类智能匹敌的通用智能都必须是个体在类似层次智能类群中亲身经历的产物;不仅其生成和发展,而且其正常表现都原则上离不开同层次类群的存在。智能体个性的发展是智能类群发展的结果,在智能类群发展的生长点中具有重要的机制意义,在智能进化层次提升的具体机制构成中具有重要地位。


在类人智能发展阶段,智能个体必须具有意识甚至自我意识。凡是具有意识甚至自我意识的智能体都无一例外地具有个性,并且必须具有个性,因为在类人智能发展层次,只有发展出个性,才意味着在发展过程中个体与类群构成了更高层次的互动机制。个性意味着个体建立了与外部世界或环境的独特意识和智能关系。只有在具体的亲历中,才可能建立起与外部环境的智能关系,才可能具有个性。智能原生进化基础上的智能次生进化是智能自主进化。然而,智能体的这种自主进化必须在智能类群中才可能进行,也才可能出现。在斯坦福大学李飞飞团队的“社会情境化人工智能”这一最新研究成果中,已经可以在一定程度上看到人工智能在人类中获得类群条件发展的实践意义。


通过与人交互,社会情境人工智能研究取得了重要进展。“社会情境化人工智能框架为智能体同时设定了两个目标:一个是发起人想要用信息丰富的数据来回应的社会互动;另一个是通过收集有用的数据来改进其基础模型。”这比通过大数据纳入人类语境更进了一步:不只是单向纳入人类语境,而且是通过与人进行问答等交互获得新的数据,生成新的概念,甚至在智能体的整个生命周期发现社会规范、改进基础模型和更新交互策略的过程。


研究结果表明,处于社会情境中的智能体不仅“行为趋向于社区亲社会规范”,而且可以通过与在线社交环境中的真人交互,从许多不同的社区中学习,以使其理解多样化。处于社会情境中的人工智能可以具有亲社会性,并与不同的人进行交互,从而获得多样化的理解,这对于智能类群进化和人机融合进化都具有重要意义,甚至可能为实现自主进化提供条件。


作为自主进化,机器智能的次生进化与人类智能的原生进化没有根本不同。在智能次生进化研究中,必须充分利用人类社会化及其机制研究成果提供的整体观照“钥匙”。表现为社会性的类人智能类群进化性质,在人的社会性和类特性研究中有丰富思想资源。马克思曾深刻地指出:“人的本质不是单个人所固有的抽象物,在其现实性上,它是一切社会关系的总和。”


将马克思这一深刻见解的内在逻辑加以展开,就可以得到一个合理的结论:任何通用或类人智能都一定是类群/社会关系的总和。通用机器智能是人类广义进化的阶段性产物,这种进化所造成的是广义智能进化的重要基础,而由通用智能进化的类群特性和类群亲历性可以得到一个根据可靠的进一步结论:广义智能进化应是以人类为主导的,它是人类进化的更高层次。


人工智能的发展越来越清楚地表明,广义智能进化一定是人机融合进化。在人机融合进化中,ChatGPT正式开启了人机软融合进化,达到了人机语境融合及其进化的新层次。通过大数据纳入人类语境,ChatGPT的语言逻辑不仅达到了类人水平,而且通过整合人类语境,为人类进化奠定了更高层次的语境基础。ChatGPT只是在“言”(还不是“知”)的层面大大扩展了通用性,这与类人智能意义上的通用化还有根本区别。


通过人机融合进化,我们可以看到人类认识的不同处境。从人工智能的技术进化到通用意义上的广义智能进化,不仅意味着存在的升级,而且意味着前所未有的认识范式转变。这涉及越来越复杂的内在机制,不仅标志着人类认识世界,而且标志着认识人类自己的更深层次。


本文来自微信公众号:探索与争鸣杂志 (ID:tansuoyuzhengming),作者:王天恩(上海大学智能哲学和文化研究院、上海大学哲学系教授)

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
文集:
频道:

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: