李开复写了一本“科幻寓言”

本文来自微信公众号：甲子光年 （ID：jazzyear），作者：甲小姐、木南，原文标题：《甲小姐对话李开复：科幻想要什么，AI该要什么 | 甲子光年》，题图来自：视觉中国

不少科幻作品中，关于人机共存的未来有着相似的预测：机器终将拥有自主意识。而AI，从字面意义理解，正是机器的“智慧之本”。

1956年8月，美国汉诺斯小镇的达特茅斯学院，约翰·麦卡锡、马文·闵斯基、克劳德·香农等学者聚在一起，共同讨论着机器模拟智能的问题，他们始终没有达成共识，却头脑风暴出一个名字：人工智能（AI，Artificial Intelligence）。这一年，也被认为是人工智能元年。

如今，“千里眼”“顺风耳”等古老科幻概念已照进现实，人们对于AI也出现了多种态度：乐观者认为，AI发展将给生产生活带来极大便利，人类终将走向由科技搭建的理想国；悲观者认为，人将成为被技术反向驯化的傀儡，当AI超越人类智能拥有自主意识，人类甚至会走向覆灭；在乐观与悲观之间，还有一类中立者，他们认为技术本质是中立的，而善恶来自人的意念——创新工场董事长兼CEO李开复便是其中一员。

在近40年的AI研究中，李开复曾见证了AI发展的两大关键技术节点：

2015年，以CNN为核心的计算机视觉技术拉开AI感知智能时代的序幕，机器开始在某些能力项超越人类，人脸识别、智能质检、无人零售等商机浮现；

2019年，以大模型为代表的自然语言方向让AI跨入认知智能主导的时代，NLP将使数据、信息走向知识和洞见，AI与人类智能的距离再次被拉近。

如今，IoT、云计算等技术的发展，使AI逐渐成为一项基础设施，嵌入人类社会各个角落。那么，未来二十年的AI世界将会是怎样一番模样？

今年，李开复将他对AI未来二十年内的预判落笔成句，与科幻作家陈楸帆共同创作《AI未来进行式》一书。书中，他用科幻的形式呈现出十幅未来技术蓝图，并给出了自己心中AI发展的终极形态：在AI与自动化技术加持下，能源、材料与生产力变得唾手可得，人类将进入真正意义上的“丰饶时代”。

但在通往丰饶时代之路上，个人、企业、国家乃至全人类将经历怎样一番自我拉扯与上下求索？今天对话李开复，谈谈他眼中的AI未来，与可能面对的困难。

一、谈新书

“我深深相信并崇尚科技向善”

甲小姐：以“AI”为关键词的书已经多如牛毛，比如京东上已经有超过6000本。是什么驱动你写《AI未来进行式》，这本书有何不同？

李开复：AI是人类有史以来最重要的一个技术，但很无奈，很多人都认为它好神奇，太复杂，一大堆数学，看不懂的算法，所以就放弃了。甚至在许多娱乐、科幻、媒体内容的渲染下，AI被误解为会终结人类。

我觉得不了解或误解AI，会让一个人对未来的构想和发展面临很大瓶颈。我希望无论理科生还是文科生，年轻人还是年长者，每个人都能真正搞懂AI对人类的价值和意义。

而要让每个人都读懂AI，就一定要写得特别容易懂。所以需要找一位真正的小说家，把AI技术写成故事，读完这些故事，你就懂了。这就是这本书的初衷。

甲小姐：本书采取了“科幻小说+科技评论”的形式。如果不聊科幻，无法表达你对AI的预判吗？

李开复：我已经预判AI很多年，不少预测近年已被证实，加上科幻，是为了降低广大读者对AI的理解门槛。

我做技术多年，科幻一直是我巨大的灵感源泉，比如Isaac Asimov写的《I， Robot》。Isaac Asimov是我大学毕业典礼的演讲嘉宾，他的书非常精彩，也给我很多灵感。这次和陈楸帆合作，一是把难的技术给所有人讲懂；二是希望给那些技术很强，但场景想象力没那么强的理工人一些关于未来愿景和场景的灵感和建议。

甲小姐：“科技”和“科幻”结合的过程困难吗？

李开复：开始时比较忐忑的是，小说家是充满创意的，但写这本书需要限制他的创意。我不想把不可行的技术写进书里，我希望每个技术都有科学根据，或者能够按照趋势推算出这个技术在20年后是可行的。所以写这本书时，我先做了一个未来二十年的科技蓝图，楸帆按照这个蓝图发挥他的想象力。很幸运的是他答应了。

我是理工科思维，希望把前因后果、技术怎么嵌入先想清楚再开始写，于是我拿出做博士论文的方法，提纲挈领，一章章列出论点，某些我不那么熟悉的新领域需要扩增调研、咨询特定专家。写第一篇的时候，我建议楸帆：我们一起来做一个outline，明确这故事主人公是谁？他发生了什么事？用到了什么技术，又怎么样了？最后技术碰到了问题怎么解决？但这个故事不是很成功。

楸帆是诗人般时快时慢的产量，他更喜欢行云流水的写作感受，他也坦率跟我说，他的创意被牵制得蛮痛苦。楸帆说：“开复，写科技是你的专长，写故事是我的专长，你把科技蓝图写得更清楚一点发给我，然后你就不要管了，我把故事写出来，写的过程中有问题我来问你，写完以后你当然可以过一遍，有什么问题我们到时候再改。”最后两个月他索性去了一个偏远的地方闭关。不过我们达成共识后，就越写越顺，速度越来越快。

甲小姐：科幻作者往往活在100年后，科技工作者活在今天，而未来要一个齿轮一个齿轮才能实现，不是一个筋斗云就能取经的。这个时间差，你怎么看？

李开复：我认为这本书是个比较好的结合，能帮科技工作者想象未来场景。

我作为一个理工科技术人多年，在本科、博士的时候就研究机器学习，我感同身受的是，做技术的人是欠缺场景想象力的。当年我读书的时候，大家就在看语音识别、自然语言、计算机视觉等问题，40年过去了，大家还在看类似的问题，但很多新的落地场景需要更多想象力。

未来这个技术会在什么样的场景使用？它带来的可能不只是技术挑战，而是环境的、社会的接受度挑战，这些挑战又要怎么化解？我觉得科幻作家不但能把这些故事讲得很清楚，也可以让做技术的人看清楚。

甲小姐：假设本书不是你写的，一句话给此书做“推荐语”，你会说什么？

李开复：AI专家与科幻才子最有底气的跨界合作，“科技+科幻”买一送一。

甲小姐：你想向读者传递的是科幻、技术，还是价值观？

李开复：相比大多科幻小说的“暗黑”，这本书更加乐观，因为所有故事都有科学依据，是我们能从当下技术进展中推演出来的。书里既有科幻、又有科技，每个人口味不同，只要是对未来心怀好奇的读者，总能尝到调动胃口的一道菜。

我的科技解读部分不仅包括技术本身，也包括价值观，比如技术会给人类社会带来的挑战与烦恼，我们又该如何化解？未来社会将因为AI和其他高科技的发展，发生什么样的改变？我们该如何应对？书中提出很多疑问，也揉合了陈楸帆和我的价值观，明眼人应该读得出来，我深深相信并崇尚“tech for good”——科技向善。

二、谈预判

“孕育‘隐形冠军’是一条非常有价值的科技发展路线”

甲小姐：书中十个故事分别发生在印度孟买、西非尼日利亚、韩国、新加坡、日本东京、斯里兰卡、欧洲、美国旧金山、中东、澳大利亚，每个故事场景的设定、融入的技术与不同地区的选择之间有哪些联系？

李开复：为方便读者理解，我们要由浅入深地排列不同技术。比如读者只有先了解深度学习，才能了解计算机视觉，进而才能理解自动驾驶。此外，20年后AI一定已经改变全球，全世界的人都会受到影响，所以我们将故事背景设定在全球各地。

每个故事地点的选择，绝大部分由楸帆按照故事原创构思主导，我们会考量技术实现的难易程度，如果一个技术10年后就有可能成熟，我们会将故事设定在技术较为欠发达的地区；而如果一个技术离现在还比较遥远，可能真的需要20年才能成熟，我们更偏向将故事安排在一些AI强国。

甲小姐：你在《神圣车手》这则故事中提到，加速L5级自动驾驶的实现，更有效的办法是大胆改造现有城市道路及相关基础设施。“城市道路及相关基础设施”不是仅靠商业能够解决的。在不同体制下，你认为各国实现L5的路径有哪些不同？

李开复：未来交通肯定需要产业、政府、生态一起推动。但当前，欧美和中国拥抱自动驾驶的态度大相径庭。

欧美是在“路不变、城市不变”的前提下，思考自动驾驶怎么上路。美国可能会因为工会等方面原因，做一些对推动技术不利的事情，比如因为保护货车司机的工作，不允许货车在高速公路上做无人驾驶测试。

中国是非常愿意拥抱新技术革命且有强大执行力的国家，会探讨能否让高速公路跟车“讲话”？能否在某一个新建城市中心，把车行道和人行道分为地上和地下两层，让车不会撞到人，可以更大程度加速落地L5级别自动驾驶。在中国浙江、江苏等地，已经有智能公路在运行，通过传感器可以帮助货车开得更安全。

从政策角度看，中国更有机会，因为中国更有魄力来做基础设施的颠覆性改变。在新冠疫情催化下，自动驾驶中国的高速、港口、机场、工业园区、物流基地、城市里都开始运行起来。

甲小姐：《职业救星》这则故事中，针对AI造成的失业潮，出现了一类专门负责重新分配工作的职业再造公司，为失业群体提供就业咨询及培训。从现实角度看，这类企业能出现并切实运转的前提是什么？

李开复：AI造成的社会问题，一定是在AI普及度非常高的情况下才更有可能发生，也更有可能解决问题，这需要产业和国家的集体智慧共同面对。

转职的需求一直存在，不是AI时代的独特产物。不管是追求薪酬、社会地位还是自我价值的提升，我们的社会一直都有不同路径帮助勤奋工作者转职，只不过有的通畅些，有的困难些。

然而在AI时代，我们预测的这类职业再造公司的专家们要特别理解AI、自动化技术，特别理解AI需要哪些人类技能来辅助和补充，所以前提必须要有足够的技术知识，也要有充分的人类洞察。

此外，职业再造本质是针对AI时代职场供给和需求的链接和媒合，其实不用20年，这部分的职业升级需求已经开始发生了。

甲小姐：不同于一些人对“奇点时代”的乐观预测，书中《丰饶之梦》这则故事的解读部分，你提到在AI仅有的65年历史中，仅深度学习一项重大技术突破，而奇点时代的到来则需要十几种同等量级的技术突破作为前提，这是短期内无法满足的。你认为与“深度学习”同等量级的技术有哪些？

李开复：合成生物学、可再生能源。

甲小姐：这些技术对未来产业生态会有哪些影响？

李开复：随着合成生物学的发展，新材料技术的突破将会进一步推进能源变革，让“材料革命”成为可能。农业将从耕种收成产能主导，摇身一变转化为供应制造产能主导。制造能力强的国家，将领跑农业。

合成生物技术将彻底颠覆食品工业的发展模式，例如我们可以在实验室里利用动物干细胞合成“人造肉”。目前，AI+合成生物领域已经开始有初期具体成果，技术上开始得到不同程度的验证。可以预见，未来生产一个新物品所需的材料和能源将越来越便宜、绿色。

“能源革命” 明确可期。目前，太阳能和陆上风能是最便宜的能源。此外，未来随着电动汽车的大规模量产，锂电池行业将迎来快速扩张，其成本将继续降低。锂电池储能成本的大幅度下降，让人们有机会把晴天的太阳能和大风天的风能储存起来，最终取代传统的电网系统。

接着，搭配智能调度和优化，不但可以进一步降低能源的价格，而且可以为一些曾因成本高昂而无法推进的落地应用和创造发明提供动力。所有消耗基础能源的产业，例如材料、制造、计算、物流等方面的相关成本都将随之下降。

我们在探讨各种技术的未来预测时，同时考虑随之而来支撑技术飞跃的计算需求、能源需求。可持续的能源解决方案必须提前到位，技术实践才成为可能。

甲小姐：根据书中的内容，AI的故事走向完美终局前提条件——我们需要一个负责任的政府，需要相关部门足够及时地建立行业或法律，需要迭代出能够与科技发展相匹配的社会制度或文明，需要民众有足够的自觉意识，去拥抱AI带来的各种变化。但现实中，不同国家地区的情况各有不同。以中美为例，目前在这四个前提中，中国的机会在哪里？

李开复：第一，中国有特别突出的人才优势，大批年轻应届毕业生都渴望进入人工智能领域。中国近年来在AI领域的论文数量、引用数据，都呈现弯道超车的态势。

第二，中国有巨大市场带来的商业模式和数据优势；

第三，政府务实有力的政策正在支持AI产业，科学家创业浪潮、专精特新企业不断涌现，很大程度都得益于政策激励；

第四，中国竞争的创业生态下催生出强大的本土创新型企业，它们崭新的、甚至全球首创的业务模式飞速发展，同时也推动了数据、AI及其他技术的突飞猛进。

甲小姐：科技路线，中美路径之外，你还看重哪条路？

李开复：“隐形冠军”这一概念由德国经济学家Hermann Simon（赫尔曼·西蒙）提出，事实上，德国也拥有全球最多的“隐形冠军”企业。中国近年也开始鼓励“专精特新”中小企业夯实技术，成为自己所处赛道的“隐形冠军”。我认为这是一条非常有价值的科技发展路线。

甲小姐：你认为未来二十年，书中列出的AI技术中，最具商业前景的五项技术是什么？

李开复：我认为是AI自然语言处理、机器人及自动化、自动驾驶、AR/VR/MR、AI+医疗。作为一名投资人，我的预测逻辑结合了技术和商业路径的两路判断。以上五项技术，彼此之间有很大关联。

首先，AI自然语言处理的可期突破，是让AI从感知智能跃迁到认知智能，能力将远超现今的AI聊天机器人对话、AI辅助翻译或辅助写作。下一代AI自然语言处理技术可理解为未来的“AI大脑”，包含完整的分析、理解、诠释、决策、反馈能力，也更接近人脑。

接着，机器人及自动化可被理解为 “AI手脚”，从重复性的手脚工作，到更复杂、精细甚或具有不可预测性的手脚工作，机器人技术会越来越成熟。其中，自动驾驶会成为结合AI大脑、AI视觉及AI自动化的全套实践场景，未来交通会是一个巨大的生态链。

AR/VR/MR可把上述的综合能力呈现在虚拟现实中。大家对元宇宙的理解大多从娱乐游戏入手，但这部分虚拟技术的突破，适用于非常宽广的商业和工业领域，极具商业潜力。

AI+医疗也是我个人格外热衷、有着长期信念的契机。

最近我开始谈AI+Science（AI+科学交叉）的潜力。比如我们可以用AI帮助科学家研发新药或生物化学和其他相关的科技领域的一些新理论，这些理论可以用AI来提议并验证它。

目前，要研发一种有效的药物或疫苗，需要投入10~20亿美元的资金和数年研发时间。AI将大幅提升药物的研发速度，降低研发成本，为患者提供更多价格在可承受范围内的特效药。同时，科学家生产力提高，能够以比现在快3~4倍的速度发现药物，而且可能便宜10倍。

我预测，5~10年内是“AI+医疗”的关键突破口，将在各种医疗细分领域实现落地。比如有临床和商业场景的特定医疗影像、辅助药物研发、多组学与精准诊断、个体化治疗、手术机器人以及其他存在领域。

甲小姐：你期望中自己的2042会是什么样子？

李开复：四十年前读博士时，我隐约有个模糊的方向，如今我更明确了我的追求。我期望，AI可以帮助我们拥有舒适的生活，最大限度地发挥潜能、实现自我，甚至可以帮助我们摆脱恐惧、虚荣和贪婪，勇敢地追求爱与梦想。

我们要相信，人类绝对有能力解决更深层次的问题，探索全新的世界，思考人何以为人，以及人生的意义。这可以说是我期望自己2042年的生活状态，也是为什么我持续投入写作、借此把理念传达给更多人的起心动念。

三、谈边界

“‘自监督学习’新技术正在崛起”

甲小姐：说两个小段子。一个是打德扑，几年前我跟您一起玩过德扑机器人“冷扑大师”，当时我在和“冷扑大师”的尝试较量中，前四局我赢了，后面没继续玩；另一个是80年代的莫拉维克悖论（Moravec's paradox） ，即和传统假设不同，人类所独有的高阶智慧能力其实只需要非常少的计算力，例如推理，但无意识的技能和直觉却需要极大的运算能力——所以让机器人模仿婴儿的本能反应比模仿成年人的运筹帷幄难得多。

这两个小段子，是否意味着面对人类大脑处理信息时的风格，AI在某些能力方面存在上限，比如机器不如人类会“唬人”，也不懂“会哭的孩子有奶喝”？

进一步地，是否有哪些事情是AI无论如何都不可能做到的？

李开复：我认为在三个方面，AI存在明显不足。即便到了2042年，AI可能仍然无法完全掌握这些能力。

第一，创造力。AI不具备创造、构思以及战略性规划的能力。尽管AI非常擅长针对单一领域的任务进行优化，使目标函数达到最优值，但它无法选择自己的目标，无法跨领域构思，无法进行创造性思考，也难以具备那些人类不言自明的常识。

第二，同理心。AI没有“同情”“关爱”之类的“感同身受”，尽管目前科研人员已经致力于改进AI在方面的缺陷，但人类仍然很难从一个机器人身上真正得到心灵的慰藉，即所谓的不够“人性化”。

第三，灵活性。AI和机器人技术无法完成一些精确而复杂的体力工作，例如手眼协作。此外，AI还无法应对未知或非结构化的空间，尤其是它观察不到的空间，更不用说在其中工作。

甲小姐：未来的所有工作，什么应该归人，什么应该归机器？而这种机会属于多数人，还是少数人？

李开复：我觉得未来大多数人都可以在AI的能力边界之外创造价值。

那些需要创造力、复杂工艺、社交技巧，以及依赖人工操作AI工具的工作是AI无法胜任的。我们可以倡导人们积极投入二次学习，帮助他们掌握从事此类工作的技能，为适应AI新经济下的新型工作场景做好准备。

此外，我们还需要结合各类AI工具，重新调整工作岗位的“人机协作”模式。比如，人们生病了，最信任的仍然是人类医生。如果医生可以使用专业的AI医疗诊断工具，快速准确地为患者定下最佳治疗方案，就能腾出充裕的时间和患者深入探讨病情，抚慰他们的心灵，医生的职业角色也将因此被二次定义为“关爱型医生”。

正如移动互联网催生了滴滴司机、美团小哥等职业，AI的崛起也创造了很多全新的职业，目前已经有AI工程师、数据科学家、数据标注员、机器人维修员等。我们应该时刻关注AI新经济进程中涌现出的新兴职业，确保公众掌握就业情况，并且为他们提供相关的职业技能培训。

有了得当的培训和称心的工具，我们可以期待又一次“文艺复兴”的到来。例如AI文字工具可以辅助小说家、诗人、记者，为写作注入新的灵感。由AI催生的人类，更有机会去达到释放激情、创造力迸发、人性升华的新高峰。

甲小姐：在书中你发出建议：不要把通用人工智能当做AI发展的终极目标。这句话和很多人理解不同。是“不能够”（做不到通用AI），还是“不应该”（人类应该主动锁死AI的边界）？

李开复：要发展到通用人工智能，还需要一系列根本性的AI科学突破，但这种科学突破每一项都需要几十年、甚至上百年时间才能出现。

AI的“思考模式”与人类完全不同。20年后，基于深度学习的机器及其“后代”也许会在很多任务上击败人类，但在很多任务上，人类会比机器更擅长。而且，如果AI的进步推动了人类的发展和进化，我认为，届时甚至会出现更能凸显人类智慧的新任务。

我们应该把精力放在开发适合AI的、实用的应用程序上，并寻求人类与AI的良性共生，而不是纠结于基于深度学习的AI能否成为或者何时成为通用人工智能的问题。

甲小姐：你认为AI的终极目标该是什么？

李开复：我在《AI未来进行式》的最后一章《丰饶之梦》中有探讨，在AI轰轰烈烈地拉开第四次工业革命帷幕的同时，清洁能源的革命也将展开，不但将解决日益加剧的全球气候变化问题，而且会大幅降低全世界的能源成本，随之而来的，所有消耗基础能源的产品的价格都将随之下调，包括水、原料、制造、计算等。另外，生产制造所需的人力成本在AI和自动化技术的支持下，也将大幅度降低，未来的生产力水平将大幅提高。

当廉价的能源、材料以及高效的生产力全部唾手可得时，人们将翻开全新的历史篇章——“丰饶时代”。我们之所以选择用“丰饶”这个词来描述人类生活的崭新阶段，是因为人们在这个阶段不仅在物质上能够近乎免费地获得任何商品和服务，在精神上也能自由选择想从事的工作，所有人都能过上舒适的生活。

甲小姐：在你的观察中，中国AI产业的发展有哪些“中国特色”？

李开复：中国有许多独特之处：

首先，中国企业家更渴望成功，他们工作更努力，意志力更顽强。他们正在寻找各种各样让人工智能可以发挥作用的商业模式，因此人工智能正在更快地赋能传统产业；

第二，使用人工智能不再是一件神秘莫测的事。之前人们普遍认为少数人才能拥有这项尖端技术。事实并非如此。人工智能现在是开放资源。大学毕业生一年后就可以在设计和制造产品时使用人工智能。中国有大批应届毕业生，他们都渴望进入人工智能的领域；

第三，中国拥有的数据量超过任何国家，而对于人工智能开发者来说数据多多益善。比方说，如果你希望将人工智能训练成一个广告定位引擎，或者银行希望使用人工智能来确定贷款额度，那么你拥有的数据越多，人工智能就变得越精确。由于数字服务的使用非常普遍，中国的用户越来越多，每个用户的使用量也越来越大。例如，现在中国人几乎不使用信用卡和现金，都在使用移动支付。这是促进人工智能飞速发展的最大驱动力；

第四，中国的AI科研能力大幅提升。依据斯坦福 2021年度AI指数报告，全球主要AI期刊上来自中国研究者的AI论文的引用数量在去年以微弱优势（20.7%）首次超越美国（19.8%）并且全球领先，中国已经开始在AI研究上展现出略优于美国的实力；

最后，中国政府非常支持人工智能的发展。截至去年底，国家新一代人工智能创新发展试验区已达17个。中央和地方政府相继出台各种政策扶持人工智能产业的发展。

甲小姐：人工智能现在通常不再单独出现了，而是以技术组合的一种成分组团出道，赋能到千行百业，比如“RPA+AI”，比如“云网端芯+AI”。这种变化意味着什么？

李开复：起初，发展通用性AI技术的企业有很大规模优势，因为只有少数企业掌握图像识别、语音识别等技术，他们天然能够占据更大的市场份额。

但是横向的、通用性技术正在快速大众化。以图像识别为例，摄像头公司、物联网设备公司，甚至医疗器械公司都开始具备这项能力。在过去，企业仅利用技术层的优势就能够攫取价值，如今这变得不再容易。AI已经从“AI+”的黑科技发明期迈向“+AI”的应用为王的阶段。

在科技交叉越来越频繁的当下，AI和自动化已经成为了底层的“数字基建”。随着AI在产业的应用逐渐成熟，接下来，“AI+Science ”——人工智能与科学交叉将获得越来越多的应用，各学科领域不断交叉融合，包括医疗在内的多个领域将迎来创新突破。

甲小姐：随着AI四小龙陆续上市，AI热潮到了一个阶段性节点。如果要为过去一个时期的AI发展做一个总结的话，你觉得是什么？

李开复：AI的发展可以按照两个时间点划分：

第一个时间点是2015年，以CNN为核心的计算机视觉技术让机器超越了人类，带来了人脸识别、智能质检、无人零售、智慧城市、无人驾驶等商机，这是第一个以感知智能技术为首的重大机遇；

而第二个时间点出现在2019年，以大模型为代表的自然语言方向取得突破性进展，让NLP从数据、信息走向知识和洞见成为可能，将会在翻译、语音识别、法律、金融、新闻、广告、医疗、娱乐等大赛道开花结果，这是可期的由认知智能技术主导的重大机会。

过去两年，我们进行了世界范围内的技术研究，并看到了“自监督学习”新技术正在崛起。如果说CNN造就了今天计算机视觉领域的突破和众多应用，“预训练大模型+微调”将带来自然语言的百花齐放，用数据智能驱动各类业务的升级。

四、谈价值

“技术本质上是中立的，关键在于人类用技术为善还是作恶”

甲小姐：有人认为，科技是“富人的游戏”——少部分人首先享受科技便利，而大多数人还在为马斯洛需求金字塔中最底层的需求而发愁。你认同吗？

李开复：不可否认，Digital Divide（数字鸿沟）的确是一个已经存在的现象。

甲小姐：你如何理解科技可能构成的“生命权不平等”？

李开复：与其简单粗暴去评价科技可能构成不平等，倒不如理解为：操控科技的权力方，可能为了贪图利益而有意构成种种不平等。我始终认为，技术在本质上是中立的，关键在于人类用技术为善，还是作恶。

普华永道和麦肯锡都估计，由于人工智能的存在，到2030年，全球GDP将增加约12万亿至17万亿美元，纯粹是净增加值。按照当今社会主流的商业规律，这些财富将会落入少数人的手中，因此财富不平等现象将会加剧。其中一个问题是收入的再分配将如何进行？解决这个问题，某种程度一定需要政府的介入。

甲小姐：科技很快，但人性发展很慢。如今，少数掌握着先进技术的人已经能够越来越直接地影响多数人的利益，比如互联网巨头几乎能够“无死角”地搜集用户个人数据。当技术变成一种权力，随之而来也会有更多关于“善与恶”的不确定性。对于这种不确定性，社会某些领域的决策者，比如专家学者、企业家、政策制定者和意见领袖等群体，应该如何面对？

李开复：如同大多数科学技术本身并没有善恶之分一样，AI技术在本质上是中立的，关键在于人类如何引导并利用AI的发展。但当利益出现偏差的时候，我们无法保证技术的掌握者完全理性地运用技术。那么如何激励他们让步做正确的事情呢？

一种方法是制定法规，对某些伤害人类福祉的行为给予处罚；

另一种方法是对企业承担社会责任的行为进行评价。比如目前 ESG（环境、社会和公司治理）得到了商业界越来越多的关注，或许负责任地使用AI也可以成为未来 ESG 的一部分，以鼓励企业的正面行为；

还有一种方法是建立第三方监管机构，监督企业对技术是否有不当使用。例如追踪产品中出现虚假新闻的比例或AI算法导致歧视的诉讼案件数量，并向企业施压，要求企业把考虑用户的福祉纳入到技术中；

最后，特别困难但又特别有效的一种方法是，确保AI技术持有者的利益与每个用户的利益达成100%的一致。

甲小姐：普通老百姓该如何面对？

李开复：今天的互联网公司都应用广告的商业模式，这个模式下，企业会想方设法为用户推荐更多的广告内容，用户也难以保证自己的数据安全，因为如果你想用这个软件，通常都需要选择“授权”才行。

但未来，也许订阅的商业模式是更好的选择。在这个模式下，用户和企业的利益变得更一致，企业需要做好的内容让用户买单，而用户选择是否付费的权利，也约束企业不会乱用隐私数据和推荐广告，这对普通用户来说是一个武器。

所以我觉得，对用户来说最好的办法未必是“把数据还给用户”，当然如果有其他模式能实现是很好的，但让企业与个人的利益越来越接近，也可能是一个好的解决方案。

甲小姐：企业需要有利益才能够运转，追求利益最大化，而科技的发展需要考虑道德伦理的约束。企业如何在企业利益和社会利益之间做好平衡？

李开复：当然。以深度学习为例，个性化推荐给用户带来便利，但也会使用户不知不觉被困在“信息茧房”里，陷入“乐此不疲”的快感，甚或是严重上瘾。

从技术层面来说，问题的关键在于目标函数的单一性，以及AI专注于优化单一目标函数所带来的不利的外部效应。如今，AI 所训练的目标函数通常针对的是单一目标，例如赚钱。因此，AI 有可能过度热衷于企业的目标绩效，而不考虑用户的福祉。

解决这个问题的一个通用的方法是让AI的目标函数变得不再单一，制定出混合型的复杂目标函数。也有专家主张在设计目标函数时需要考虑人类福祉，并让人类更大程度地参与数据标注和目标函数的设计。

但这些都会带来企业盈利的减少，从社会角度来说，就需要通过制定法规、对企业承担的社会责任进行评价、建立第三方监管机构等方式，来达到平衡。

甲小姐：元宇宙的概念在世界范围内掀起了一阵浪潮，VR\AR\MR\XR等技术的发展都在将人类社会推向一个虚拟世界。你怎么看元宇宙？

李开复：元宇宙的到来只是时间的问题。在《AI未来进行式》中，20年后的世界里元宇宙已经发生了。

从技术上来说，今天的“元宇宙”还太重了，要戴的设备还很重，屏幕也不够清楚，内容也还不够多。这些问题要在未来10到15年慢慢解决，才能带来更逼真的体验。

五、谈人才

“不能把所有科学家都抓去创业，这是灾难性的”

甲小姐：AI技术发展迅速，但各国AI人才短缺的情况依然存在，目前最缺少哪方面人才？

李开复：我们开始进入“AI+”的阶段——从AI投资方面我们看到一个创业的成功，越来越需要AI+跨界的人才组合，比如AI+机器人、AI+医疗、AI+工业。

然而，有的跨界领域知识鸿沟很大，可能各自都需要10年以上的积累，因此未来AI实践更需要能高度互补、高度协作的交叉领域团队。

甲小姐：中国现有AI人才培养体系中，最大的痛点是什么？

李开复：中国有大量的工程师想涌入人工智能，但现在高校里优质师资不足，没有那么多有着多年科研累积的专家——这是人才金字塔的底层，非常重要。不过有很多国外高校的顶级专家被请回中国，这一点近年做得比较好。

甲小姐：中国如何更好？

李开复：对于中国当下资本追逐科学家的热潮，我是抱喜忧参半的态度的。

一方面科学家被资本热捧，创造巨大的经济价值，对年轻人投身科学有一定引导作用，也能让这些科学家多年的努力得到好的经济回报，这是好事；但另一方面，我认为不能把所有的科学家都抓去创业，这是一件灾难性的事情。因为我们非常需要有一些顶尖人才投身科研，在取得科技突破之前，不去考虑技术产品化、商业化的问题。

科技创业需要科研出身的高科技人才，但那些有诺奖潜质、愿意在没有商业束缚的环境下做纯科研探索的科学家，则更应该留在科研单位里。

第一，这是他们选择的方向，也是他们最擅长的事情；

第二，如果把这批人挖空了，中国以后的科技竞争力源头又来自于哪里？

第三，这些纯科学家真让他去做CEO、管公司，也未必能够做得很好。

科学家创业面临“长板特别长、短板比较短”的问题，比如具体执行、赚钱、产品、用户需求等方面，科学家可能不一定懂。如果他们下定决心出来做技术创业，则需要像我们这样的Deep Tech VC来补足短板，跨越早期创业的“死亡陷阱”。

甲小姐：有观点认为，目前在人工智能技术较为发达的中美德三国中，中国的应用落地能力较强、美国的资本实力雄厚、德国技术路线则更为全面。你认为哪种技术环境对尖端技术人才更有吸引力？为什么会有这样的判断？

李开复：中国目前做得很好，利好政策相继出台，高科技人才的创业激情正在被点燃，这些创业者不仅技术顶尖，而且技术商业化速度也越来越快。

过去的十年，大家认为最火热、最充满激情的创业者来自移动互联网。因为它的发展速度足够快，像王兴、张一鸣，都是移动互联网时代崛起的成功创业者代表。而另一方面，大家又会对一些比较传统的高科技人才，比如自动化专家、芯片专家、遗传学专家、生物学专家表示担忧，担心他们步伐比较慢，跟不上迭代速度极快的“创业大潮”。

但是过去这一年我们看到，这批人用最勤奋的工作、快速地奔跑，证明自己和移动互联网、人工智能时代那些创业者一样，能够快速拥抱硬科技创业浪潮，创造出中国创业界下一批的奇迹，而且做得丝毫不逊色。

参考资料：《甲小姐对话吴军：人的归人，机器的归机器》

本文来自微信公众号：甲子光年 （ID：jazzyear），作者：甲小姐、木南