微软AI CEO穆斯塔法：当技术浪潮汹涌，人类该如何自救？

随着人工智能、生命技术和量子技术的崛起，我们已经悄然置身于一个前所未有的时代变革之中。

 

未来已来，新兴科技浪潮汹涌澎湃，普通人将如何在新兴科技的浪潮中立足？穆斯塔法·莱曼让我们不仅要关注科技发展，更要思考人类如何适应和控制这些强大的力量。

 

DeepMind联合创始人、微软人工智能CEO穆斯塔法·苏莱曼在新书《浪潮将至：技术、权力与未来的冲击》中为我们描绘了一个既充满机遇，又潜藏危机的未来世界。这是一次对人类命运的深刻探讨，也是每一个关心未来的人不可错过的必读之作。

 

穆斯塔法·苏莱曼认为，未来10年将被这一波强大、快速扩散的新技术所定义。我们既要积极拥抱这些技术，又需制定周密的遏制策略和安全措施，以保证新技术的健康发展。

 

他和迈克尔·巴斯卡尔（Michael Bhaskar）一起，在《浪潮将至》这本书里，他们把前沿科技比喻成即将到来的技术浪潮，并类比国际政治领域的“遏制”，创造性地提出了科技领域的“遏制问题”——如何在享受技术带来的巨大利益的同时，保持对强大技术的约束和控制。

 

难能可贵的是，作者探索出了一系列“遏制浪潮”的步骤，既展示了强大技术创造的巨大繁荣，又引领我们直面技术的重大威胁，为我们提供了一套切实可行的应对策略。

 

“从我们当前的情况来看，试图遏制这场浪潮（即对其进行控制、限制或阻止）似乎是不可能的。本书探讨了其背后的原因，以及这一趋势若无法改变，将对人类意味着什么。这些问题的含义最终将影响每一个生活在当下的人，以及我们所有的子孙后代。”

 

技术的军事性：浪潮下的军备竞赛

 

技术已成为全球最重要的战略资产。与其说技术是外交政策的工具，不如说它是外交政策的驱动力。21 世纪的大国竞争，本质上是一场关于技术优势的较量，谁能掌控即将到来的技术浪潮，谁就能在这场竞赛中占据先机。

 

目前，几乎每个国家都已制定出详细的人工智能战略。

 

俄罗斯总统普京认为，领导人工智能技术者将成为“未来世界的统治者”。

 

法国总统马克龙表示：“我们将倾尽全力构建欧洲的元宇宙。”在马克龙以及其他许多人看来，欧洲的国家安全、繁荣与声望等所有一切，都取决于其能否成为除中美之外的“第三极”力量。

 

从生物科学和人工智能（英国的强项）到机器人技术（德国、日本和韩国等国的专长），再到网络安全（以色列在此领域尤为出色），各国在技术领域各有千秋。

 

面对即将到来的技术浪潮，每个国家都在特定的技术领域启动了重要的研发项目。

 

在全球大国的新秩序中，印度已经明显崛起为继美国、中国和欧盟之后的第四大支柱力量。印度人口结构年轻，国民富有创业精神，城市化进程持续深化，国际化水平稳步提升，科技发展水平也日新月异。

 

预计到 2030 年，印度将超越英国、德国和日本等国家，从而成为全球第三大经济体；到 2050 年，其经济总值预计将达到 30 万亿美元。

 

印度政府正努力将印度的科技梦想转化为现实。通过实施“自立印度”计划，印度政府正致力于确保这个世界上人口最多的国家掌握能够与美国和中国相抗衡的核心技术体系。

 

在该计划的推动下，印度已开始积极与其他国家进行合作，例如与日本在人工智能和机器人技术域建立了合作关系，与以色列在无人机领域展开了合作。印度的技术浪潮已在涌动。

 

在技术领域，军备竞赛已不再是新奇的说法，也不再是“自我实现预言”。这个预言已然成为现实，正在我们眼前上演。

 

技术的政治性：浪潮下的秩序变革

 

历史上的每一次技术浪潮都带来了深远的政治影响，预计未来仍会如此。

 

最近的一次技术浪潮以大型计算机、台式计算机、电脑软件、互联网和智能手机的出现为标志，为社会带来了难以估量的利益。

 

技术已经逐渐侵蚀了民族国家原本稳固的主权边界，它开启了人口、信息、思想、经验、商品、资本和财富的全球化流动，并不断推动这一趋势。

 

正如我们所观察到的，技术在地缘政治战略中占据着举足轻重的地位，它几乎渗入了人类生活的方方面面。在新的技术浪潮到来之前，技术已经是世界发展的重要驱动力，但它也导致了全球民族国家体系的稳定性日益下降。

 

简言之，技术与政治秩序之间紧密相连。新技术的出现往往会带来重大的政治影响。正如大炮和印刷术曾经颠覆了社会格局一样，我们也应该相信人工智能、机器人技术和合成生物学等能够引发同样的变革。

 

未来趋势将主要沿着两个方向发展，并可能产生一系列中间结果。

 

一方面，某些自由民主国家的内部社会结构会继续削弱，最终演变为“僵尸政府”。

另一方面，若不经思考地全盘接受即将到来的技术浪潮的某些要素，可能会导致国家控制力过度扩张，进而催生出比历史上最极端的极权政府还要强大的超级权力体。

 

技术的风险：急剧增加的不确定性

 

一战和二战分别导致全球约 1% 和 3% 的人口死亡。随着原子弹的出现，人类现在拥有了足以多次毁灭地球上所有生命的致命力量。过去需要数年甚至数十年才可能发生的灾难性事件，现在只需按下按钮，便可在几分钟内发生。

 

随着新的技术浪潮逼近，我们又朝着潜在的灾难迈出了一大步。风险的上限显著提升，同时，那些企图释放灾难性力量的人所拥有的途径也大幅增加。

 

技术的初衷是提升人们的生活水平，确保其益处远超其成本和负面影响。然而，当前我们所面临的严峻抉择却表明，这一初衷已被彻底颠覆。

 

我们已经看到，在新的技术浪潮下，不法分子有可能造成严重破坏，引发大规模的不稳定。请想象一下，当任何一个具备一定能力的实验室或黑客都能合成复杂的 DNA 链时，我们离灾难性事件还有多远？

 

最终，随着史上最具影响力的技术渗入我们生活的方方面面，极端情况的发生概率也将大幅提升。一定会出现一些问题，其严峻程度和扩散速度都将与技术所蕴含的巨大能力相当。新技术浪潮的 4 个特征预示着，如果不在各个层面采取强有力的遏制措施，那么像人为策划的流行病这样的灾难性后果将比以往任何时候都更可能发生。

 

毫无疑问，技术风险给我们带来了诸多新的不确定的趋势。不过，所有趋势都表明风险正在急剧增加。这种推测是基于科学和技术进步不断叠加的效应。

 

技术的停滞：日益显现的持续性危机

 

即便在动荡不安的时期，我们也相信 21 世纪的供应链坚如磐石，足以应对各种挑战。

 

然而，没有什么是永恒的。历史上社会崩溃的案例俯拾皆是：从古美索不达米亚文明到古罗马文明，从玛雅文明到复活节岛文明，我们反复注意到文明难以持久，似乎文明的不可持续性是其宿命。文明的崩溃并非个例，而是一种常态。

 

一项针对 60 个文明的研究揭示，这些文明的平均存续时间大约为 400 年，之后便分崩离析。没有新技术的支持，它们就会在能源供应、粮食生产和社会结构方面遭遇发展瓶颈，这些因素最终将引发其崩溃。

 

数百年来，技术的持续发展似乎使社会得以挣脱历史规律的桎梏。然而，认为历史的动态演变已经停滞不前是一种误解。21世纪的文明固然与玛雅文明大相径庭，但庞大且渴望权力的上层建筑、众多的人口、能源供应以及文明发展的硬性限制依然存在；它们所带来的影响只是被暂时抑制了。

 

在未来一个世纪，全球人口将呈现下降趋势，而在某些国家，这一降幅将会尤为显著。随着劳动年龄人口比例的变化，劳动力将减少，这将使得经济难以维持当前的发展水平。换言之，如果没有新技术的支持，我们将无法保持现有的生活水平。

 

资源压力同样是一个无法回避的问题。想一想，清洁能源领域的材料采购，乃至其他各种材料采购，都具有极高的复杂性和不稳定性。

预计到 2030 年，锂、钴和石墨的需求将增长 500%。目前，电池是清洁能源技术的核心应用之一，然而电池技术因受存储容量限制，尚不能满足许多应用场景中几分钟甚至几秒钟的能源消耗需求。为了替代迅速减少的化石能源储备或弥补整个材料供应链的不足，我们迫切需要寻找解决方案。这意味着我们必须在材料科学等领域实现新的科学技术突破。

 

请注意：停滞不前本身就是灾难。

 

即使存在可能性，试图阻止即将到来的技术浪潮的想法也并不受欢迎。维持现有生活水平已然离不开技术，更不用说提高生活水平了。同时，防止社会崩溃也需要技术的支持。对技术说“不”的代价可能关乎人类的生死存亡。然而，无论我们以何种态度面对技术，其都伴随着重大风险和潜在负面效应。

 

这就是我们面临的巨大困境。

 

穿越浪潮：迈向遏制的 10 个关键步骤

 

因此，我们迫切需要一个清晰明确的目标，一个能将技术领域的各种努力凝聚在一起的旗帜。无论是面对新兴的通用人工智能技术，还是新奇的生物形态，我们的目标必须一致：技术遏制。

 

1. 安全：技术安全的阿波罗计划

从物理上控制技术很重要。

最严格的控制模式仍然是物理层面的控制，这适用于服务器、微生物、无人机、机器人以及算法等各类技术元素。

物理隔离仅仅是调整技术安全架构以迎接新技术浪潮挑战的方式之一。充分利用现有手段是技术遏制的重要的第一步。例如，核能由于切尔诺贝利核事故和福岛核事故等众所周知的灾难而名声不佳。

在人工智能领域，技术安全措施还包括沙盒和安全模拟，这些措施用于构建可验证安全性的气隙环境，以便在先进的人工智能系统被实际应用之前对其进行严格的测试。

我们还应在开发和生产过程中建立切实有效的技术约束。

我们要为这些想法的实现提供必要的智力和物质支持，并认识到虽然技术设计不是所有的答案，但它是答案中不可或缺的一部分。

 

2. 审计：知识就是力量，力量就是控制

审计听起来很无聊。这也许是必要的，却极其乏味。

然而，它对技术控制来说至关重要。为技术创建安全的物理或虚拟隔离容器（就像我们在前文中讨论的工作）是基础。

信任源自透明度。我们绝对需要在各个层面验证系统的安全性、完整性和未受损状态。

外部审查的重要性不言而喻。

在技术层面，精准监督机制仍有待进一步发展。

 

3. 技术命门：争取时间

在技术“超级进化”的时代，争取时间尤为宝贵。我们需要争取时间以制定更为周密的遏制策略，建立额外的安全措施，测试技术的紧急关闭机制，构建更为完善的防御技术，巩固民族国家的基础，实施更有效的监管，或推动重要法案的通过，以及组建高效的国际联盟。

 

4. 开发者：批评者也应参与开发工作

技术发展的驱动力固然不可阻挡，但技术制造者并不能因此逃避对其创造物的责任。相反，我们每一个人，都肩负着明确的责任。没有人是被迫进行基因改造实验或构建大语言模型的。技术不可避免的扩散与发展趋势并非一张免罪符，也不是一张允许技术构建者随意打造、任由结果发生的通行证。其更像是一则沉重的警示，提醒我们必须谨慎行事，否则后果将不堪设想。

 

5. 企业：利润 + 使命

利润驱动着即将到来的技术浪潮。要想保障安全，就必须正视并应对这一现实。对于像人工智能和合成生物学这样的飞速发展的技术，我们必须探索新的、负责任且包容的商业模式，既要确保安全，又要追求利润。我们应该有能力创立更加擅长控制技术的公司。

 

6. 政府：生存、改革、监管

我们已经看到，技术问题确实需要技术上的解决方案，但仅仅依赖技术是不够的。国家的繁荣同样重要。我们必须全力支持那些旨在强化自由民主的国家，使之能够抵御各种压力。国家仍然掌控着众多文明基本要素，比如法律、货币供应、税收、军事等。这将对它们接下来要完成的任务大有裨益。它们需要创建并维护具有韧性的社会系统、福利网络、安全架构和治理机制，以应对严峻挑战。

 

7. 联盟：是时候制定条约了

国家不愿轻易放弃权力，正如公司不想错过任何利润。然而，过往的一些禁令为我们提供了宝贵的经验，它们就像是激烈技术竞争环境中的一线希望。每个禁令背后都有其独特的条件和挑战，它们既推动了禁令的出台，也妨碍了其顺利实施。但关键在于，这些禁令都是世界各国团结一致、相互妥协以应对重大挑战的典范，为我们应对即将到来的技术浪潮提供了重要的线索和框架。一个政府要全面禁止合成生物学或人工智能应用，显然是不可能的，最多只能实现部分、脆弱的控制。但如果是一个强大且充满动力的国际联盟呢？那或许能够取得一定的成功。

 

8. 文化：正确地接受失败

前沿技术领域的每个人都必须发自内心地认可它。提出和完善伦理、安全方面的倡议和政策固然重要，但更为关键的是，执行者必须真正相信这些倡议和政策的重要性。

遏制技术风险不仅要依靠特定的政策、清单或倡议，还需要培育一种自我批判的文化。这种文化应积极践行安全理念，并欢迎监管人员深入实验室，与技术人员共同学习、互相监督。要想有这样的文化，每个人就都要积极投入、承担责任，并保持热爱。

 

9. 运动：公众的力量

在技术即将彻底改变全球和我们这个物种的未来之际，强调全人类的“我们”显得尤为重要。如果宏大的“我们”概念未能产生实际效果，那么这将迫切要求我们构建一个真正有意义的共同体。历史告诉我们，变革往往源于人们的有意识的奋斗。来自公众的压力推动了新规范的产生。诸如废除奴隶制、争取妇女选举权、争取公民权利等伟大的道德成就，都是人们通过不懈努力、建立广泛的联盟并基于一个宏大的诉求实现的。气候问题受到重视，不仅仅是因为人们注意到极端天气的出现日益频繁，更是因为基层活动家、科学家以及作家、名人、企业高管和政治家在共同努力，他们呼吁有意义的变革，并付诸行动，因为他们想做正确的事情。

 

10. 狭窄小道：唯有穿越

第 10 步着重于整体协调，确保前述每个要素都能与其他要素和谐并存，共同发力。遏制是一个措施之间相互强化、形成良性循环的过程。从这个角度来看，遏制并非单一建议所产生的结果，而是这些建议相互交织、共同作用所产生的综合效应，是社会在学习管理和减轻“技术人”风险的过程中自然产生的结果。

遏制不是终点，而是一条狭窄且永无止境的道路。

 

那么，我们能否成功遏制即将到来的技术浪潮呢？

 

展望未来，技术将引领人类走向无数可能的方向，释放巨大的潜能，并具备改变世界的力量。然而，在这些潜在的发展方向中，许多似乎都难以得到有效遏制。因此，从此刻起，我们必须始终小心地行走在狭窄小道上，谨记稍有不慎就会跌入深渊。