扫码打开虎嗅APP
本文根据南方科技大学人文中心访问学者、深圳科学与幻想成长基金首席研究员、中国科幻研究中心特聘专家三丰(张峰),在7月12日在成都举办的“数实蓉合”系列活动科幻AI对话专场活动上的主题分享整理而来。本文来自微信公众号:腾讯研究院 (ID:cyberlawrc),作者:三丰,整理:腾讯研究院科幻与AI研究小分队 ,题图来自:AI生成
科幻想象AI/机器人的历史
在实际研究领域中,AI与机器人的概念有所区别——AI是通过模拟和模仿人类智能的方法来实现机器的智能行为的科技领域,并不一定有机器人身体,而机器人是可以感知环境、运动和执行任务的自主机械设备或系统。但在科幻作品中,两者往往紧密交织,难以割裂,使得我们在讨论科幻中的AI或人工智能时,往往会联想到科幻作品中著名的机器人形象,如天网、R2-D2等。将两者连接起来,机器人可以被视为一种外在实体形象,而人工智能则是赋予这些形象以内在灵魂或意识的关键。
科幻对机器人或AI形象想象由来已久,早在这两个术语诞生之前,人类就已经有了关于人造的智能机器的想象。例如,古希腊神话中的塔洛斯被认为是人类最早想象出来的机器人形象。在中国的神话传说中,《列子·汤问》中记载的偃师献技的故事,展示了用木头、皮筋等小工具制造能够模拟人类的人偶。其他国家或文化也存在着类似的想象。
进入科幻领域后,人们对AI有了更多的新想象,涌现出许多标志性的科幻AI或机器人形象,如阿西莫夫的“机器人三定律”、《2001太空漫游》中的HAL 9000以及《终结者》系列等作品。近二十余年来,随着人工智能研究进入新阶段,人们的想象从早期的、远距离的、不可知其来源的智能形式,转向了更为贴近现实的近景式想象,如《HER》和《黑镜》等作品。
近期中国科幻中AI叙事也取得了一定的突破,主要体现在两个方面:
一是学习算法在科幻作品中的广泛应用。过去科幻作品中对机器人或人工智能如何觉醒并获得意识语焉不详,但随着人工智能研究从符号主义过渡到连接主义,神经网络和学习算法成为主流,科幻作家开始用学习算法赋予人工智能以灵魂。以“偃师造人”的科幻重述为例,过去的作品未能清晰表明木偶如何获得智能,但是在慕明的《铸梦》中,清晰地说明了青铜造的人物如何通过学习,错者罚一,对者赏一,进而获得智能。这种引入学习算法的做法提高了人工智能形象的可信度。
二是从远景到近景的过渡。作者们倾向于聚焦于近未来背景下全面渗透到生活的AI所产生的情感、伦理以及道德方面的冲突与矛盾,更具现实意义。一些新的科幻作品,如《机器之门》等,将预言时间设定在更近未来的时间段,更多关注当下时段人类与AI相互交互的过程。
科幻想象的现实影响
关于科幻想象对现实世界的影响,可以从对科研和科技创新的影响以及对大众的影响两个方面进行探讨。
首先是对科研和科技创新的影响。许多科研工作者表示,他们的研究灵感来源于科幻作品,尽管这只能算轶事证据,但我们能从文献当中找到相关的综合性证据。比如一篇论文通过检索相关文献,考察了在机器人研究领域的论文中提及科幻作品中机器人形象的频率。
结果显示,诸如《机器人总动员》中的机器人形象等,频繁出现在学术论文中,成为科研人员引用的对象。这些科研工作者在撰写严肃的学术论文时提及科幻机器人形象的原因多种多样。其中一个原因是表达个人研究灵感的来源,即表明自己的研究受到了特定科幻作品中机器人或AI形象的启发。此外,科研工作者也常用科幻中的机器人形象作为一种沟通工具,帮助自己与读者之间建立更有效的交流。
其次是对大众的影响。调研显示,大众对娱乐媒体中AI的看法与他们对现实中AI的看法之间存在显著关系,大众在娱乐媒体中形成的对AI或机器人的印象,会带入到现实中,影响他们对人工智能发展的态度或信念。尽管流行媒体中许多AI形象呈现负面色彩,但大众具备一定的分辨能力,会先区分科幻作品中的AI或机器人是接近现实还是纯属虚构。当大众判断某一科幻作品中关于AI或机器人的描述较为现实时,他们更倾向于接受这些形象。
研究中列出了三个被认为现实度评分最高的作品:《黑镜》、《HER》和《我,机器人》,其中《黑镜》与《HER》,54%以上的人认为更具有现实度。对于这些AI形象,大众的态度呈现出混合的特点:既有正面评价,也有负面看法,同时感到与自身息息相关。这一发现揭示了人们如何吸收流行媒体科幻作品中的人工智能形象,并将其转化为对当前AI发展趋势的印象。
科幻中的AI形象
这部分介绍两个定量分析研究。首先是庆应义塾大学科幻研究和发展中心主任、日本科幻作家协会主席大泽博隆的研究成果,该研究收集了115部科幻作品中的AI/机器人形象,提取20个指标编码赋值,选取其中11个指标进行主成分聚类分析,最终将115个机器人形象分为四大类:机器类型AI、人类类型AI、助手类型AI与基础设施类型AI,这些类别能够涵盖大多数科幻作品中的AI或机器人形象。
另一项研究来自美国亚利桑那州立大学科学与想象力中心,他们从近20年的科幻年选中抽取了98篇AI相关短篇小说,对每篇故事进行编码赋值,其中有2个重要结论:一是52%的小说描绘了通用型人工智能,科幻作家倾向于创作具有人类或超越人类的智能,有个性、动机、主体性的AI形象以推动故事情节发展;二是72%的小说将AI描绘成有害或带有负面后果的形象,这种设定不仅服务于叙事需求,同时也体现了科幻作者对AI发展潜在风险的警示性思考。
AI形象反映的深层需求
为了探讨科幻作品中AI形象的形成原因,我们可以从人类的需求层次角度出发,分析为何70%以上的AI形象在科幻作品中带有负面效果。
生存需求
生存是人类最基本的需求。人们期望AI技术能够带来生存优势,但同时又担心“未对齐”的AI带来的生存性危机,这种对技术失控的担忧,可以看作是“弗兰肯斯坦情结”在现代社会的延续。
风险可分为两类:一是决定性的风险,表现为突然爆发的AI末日,如《终结者》(天网)和《黑客帝国》(矩阵)中AI突然觉醒并与人类发生战争,最终可能导致人类灭亡。二是积累性的风险,表现为连锁反应式的温柔末世,例如《机器人总动员》中,虽然表面是温馨的机器人与人类共处,但实际上是环境恶化和AI侵袭导致的连锁反应,最终使地球变成一片荒漠。
安全需求
在生存需求之上,人类追求安全。AI可能对人的安全构成多种威胁,如取代工作、隐私侵犯、信任侵蚀(AI换脸)、系统错误等。许多科幻故事聚焦于这些安全威胁,反映出当下大众对AI发展的主要焦虑。这种焦虑的根源在于AI带来的快速变化导致了掌控感的丧失,人们无法用传统的社会和发展模式来应对AI时代的挑战。
爱与情感需求
第三层为爱与情感。无论是作为个体还是作为种族,人类本质上是孤独的,当情感机器人被创造出来后,人类是否终结了个体和种群意义上的孤独感?有研究表明,当人类对机器人产生某种厌弃感时,像《机器人与弗兰克》这种温情脉脉的治愈系科幻片能够很容易激发人类对机器人的共情。这也揭示出人的爱与情感可能被机器人影响甚至“劫持”的故事走向。
公平需求
第四层为公平与正义。人们希望通过纯粹理性的工具实现长久以来的公平需求,AI能否帮助人类实现公平与正义?同时,将公平理念赋予机器人也成为了许多科幻故事的主题,如《底特律:变人》中,仿生人争取人权的故事。
自我实现需求
人类最高层次的需求是自我实现。在AI时代,我们是否能够利用这些工具更好地实现自我,还是会被边缘化成为“无用阶层”?这是科幻作品中两种不同的展望,如伊恩·班克斯的《文明》系列,描绘了一个由无政府主义AI管理的社会,人们可以自由地追求自我实现。然而,即使在这种理想化的设定下,仍有许多人无法满足自我实现的需求。
结论与启示
有关AI和机器人,科幻所擅长的是通过新鲜创意启发研究者和创新者、为抽象的概念描绘场景细节、通过冲突描写提供警示信息、通过大众传播促进公众参与和对话。然而,科幻也有其局限性,无法提供准确的科技知识,无法做出可靠的科技和社会预测,也无法提供有效的商业创新设计。科幻中的AI形象有多种类型和面向,不能把这些想象与实际AI发展划等号。
科幻中AI的负面形象与人类的需求层次密切相关,最直接的根源是人们对生存、安全、情感、公平和自我实现等底层需求无法得到满足的恐惧。在AI时代,如何更好地实现这些需求成为核心问题。科幻提出了这些问题,但实际解决它们则是一项巨大挑战。
因此,对研究者、创新者、政策制定者而言,需要回到人的需求层面,思考发展AI对于这些底层需求的作用是什么,同时将科幻作为与公众交流的工具和平台;对大众而言,通过阅读和创作科幻作品,表达和理解自己的需求,为未来的多种可能性做好准备。
未来具有101种可能,当你读完科幻作品后,你将准备好面对任何变化,拥抱AI时代带来的机遇与挑战。
参考资料:
[1]Omar Mubin,Kewal Wadibhasme,Philipp Jordan,and Mohammad Obaid.2019.Reflecting on the Presence of Science Fiction Robots in Computing Literature.ACM Trans.Hum.-Robot Interact.8,1,Article 5(March 2019),25 pages.DOI:https://doi.org/10.1145/3303706
[2]Hudson,A.D.,Finn,E.&Wylie,R.What can science fiction tell us about the future of artificial intelligence policy?.AI&Soc 38,197–211(2023).https://doi.org/10.1007/s00146-021-01273-2
[3]Osawa,H.,Miyamoto,D.,Hase,S.et al.Visions of Artificial Intelligence and Robots in Science Fiction:a computational analysis.Int J of Soc Robotics 14,2123–2133(2022).https://doi.org/10.1007/s12369-022-00876-z
[4Nader,K.,Toprac,P.,Scott,S.et al.Public understanding of artificial intelligence through entertainment media.AI&Soc 39,713–726(2024).https://doi.org/10.1007/s00146-022-01427-w