《浪潮将至》：我们已被人工智能包围，生活中的一切都将改变

人工智能、生物技术、量子计算……我们正在接近人类历史的一个关键节点，这一节点决定着人类命运的未来走向。

我们已被人工智能包围，生活中的一切都将改变。

人工智能将组织我们的生活，经营我们的生意，管理核心的政府服务。

我们将生活在一个有DNA打印机、量子计算机和机器人助手的能源丰富的世界里。

作为开创性的人工智能公司DeepMind的联合创始人和微软人工智能的CEO，作者穆斯塔法·苏莱曼一直处于这场浪潮的中心。他认为，未来10年将被这一波强大、快速扩散的新技术所定义。

在这本书中，苏莱曼以通俗易懂、冷静犀利的笔触，展示了这些力量将如何创造巨大的繁荣，又将如何威胁到作为全球秩序基础的民族国家。他既引领我们了解激进技术变革的历史，又引领我们面对深刻的社会挑战。

这本书为我们提供了一剂现实的镇静剂，逻辑清晰地描述了当前的技术冲击，又不乏新意和趣味，引人深思。

作者构建了遏制人工智能负面影响的十个步骤，或者说是十项举措，包括技术安全、审查、争取时间、开发者、“利润+使命”、政府监管、国际监管联盟、文化、公众的力量、整体协调等。

技术安全是指采取具体措施降低人工智能的潜在风险，并保持对技术走向的有效掌控。

审核是指要确保技术的透明度和问责制，尤其是透明度，这是一个必选项，必须要有定义明确的途径来审查新技术在开发过程中、代码层面、实验室、工厂或各类实际应用场景的情况。

争取时间是指利用技术命门（即关键的技术控制节点，如芯片生产者和关键企业）来放慢技术发展速度，从而为监管机构以及开发防御技术争取一定的反应时间。

开发者是指从事技术工作的人需要更加努力地解决人工智能所面临的问题，构建正确的技术，掌握能够改变技术进程的实用手段，积极地展示如何做出改变。

“利润+使命”是指企业在开发人工智能并获得利润的同时，也要关注社会责任和使命，企业在社会中生存和经营，除了追求利润，还要关注获得利润的过程给社会带来的影响。

政府监管是指政府相关部门要投身于技术发展进程、技术标准制定以及内部能力的培养，在这次技术浪潮中，政府不能当旁观者，而是要作为有力量的引导者和监管者。

国际联盟是指通过精心构建的联盟和国际合作，合力遏制人工智能技术的破坏性影响。

文化是指人工智能领域要逐渐形成一种遏制风险的审慎文化氛围，特别是要坦诚一项新技术可能带来的风险。

公众的力量是指需要公众在各个层面的积极参与，包括对某项技术以及技术发展的各个环节施加必要的压力，从而确保相关各方承担相应的责任；当公众共同要求变革，真正的改变就会发生。

整体协调是确保上述九项措施能够切实发挥作用。“遏制”是一个各项措施相互强化、形成良性循环的过程。通过精心构建并彼此衔接的反制措施，“遏制”会更加有力有效。

上述十项措施只是作者的一家之言，具体到实践之中，哪些措施可以实施、哪些措施有效还要具体观察。作者自己也指出，这并不是一份详尽的指南，更非最终的答案，而是必要的基础：“我的目的是引发思考，希望朝着遏制技术浪潮的方向迈出关键的第一步。”

人工智能浪潮具有四个固有特征：

首先是技术的高度非对称性。非对称性是指你与对方不必力量相当、规模相当，即使双方对比悬殊。技术使那些看似强大的势力暴露出以前难以想象的弱点和破绽。例如，大炮的出现意味着一小队力量就可以摧毁城堡，消灭整支军队；蒸汽动力的出现使得单个工厂的生产能力可以匹敌整个城镇。非对称性可能意味着权力或能力的大规模转移，从传统的国家或大型企业转向任何有能力且有意愿部署和使用这些技术的个体或组织。例如，一次病原体实验就能触发全球大流行病；一个人工智能程序就可以撰写出与人类所有文本作品规模相匹敌的巨量文字；上述两种情形并不需要多大的投入，较少的几个人甚至一个人就可以实现。

其次是技术的超级进化性。在之前的技术发展进程中，有些技术可以产生非常大的影响，但进化或改进速度较慢。以汽车为例，汽车发明至今已经超过一个世纪了，但汽车技术的进展较为缓慢，现在的汽车与100年前的汽车并没有本质的不同，只是在舒适性上有了很大进步。汽车较为缓慢的发展进程也给人们足够的时间来引入各种安全标准，控制其负面影响。人工智能技术的发展却具有超级进化性，近两年的经验显示，人工智能的发展速度已经超乎了人类的想象，不断刷新我们对这一技术的认识。说是认识，实际上大多数人已经不太能很好地认识这一技术的发展了。这带来一种尴尬的情况，我们甚至还不太理解人工智能新的发展，更何谈遏制其负面效应。

再次是技术的通用性。通用性是指一种技术可以在多个领域应用。电力、互联网就是通用技术的很好例子。人工智能也是一种通用技术，可以应用在经济、金融、医疗、军事等很多方面。这也意味着，相较于那些受限的、单一任务的技术，管控人工智能的难度将与日俱增。

最后是技术的自主性。迄今为止，持续的人类参与、监督与管理一直是技术运行的默认模式，技术在不同程度上始终受到人类的控制，而完全的自主性则在本质上与之前的技术截然不同。人工智能的一个突出特点就是自主性，持续的人为干预和监督将变得越发不必要，甚至人类并不理解人工智能的决策过程。实际上，人工智能技术的每一次进步，都实现了更大的自主性。人工智能的自主性正持续挑战人类的认知边界，也使得人类无法预测自主系统的后续发展轨迹。

虽然作者没有将另外一个特性，即快速扩散性，作为人工智能技术的第五个特征，但在书中对这个特点也进行了阐述。对于一般人来说，人工智能模型背后的技术较难理解，但其使用门槛并不高，尤其是以智能手机等设备作为媒介，很多人工智能程序在手机上就可以使用，这也决定了人工智能技术具有非常强的扩散性。实际上，正是扩散性导致了上面所说的高度非对称性。当技术不断扩散，越来越多的人能够使用、修改，并按自己的喜好来塑造它时，就会触及一连串错综复杂、难以预料的因果链条。

罗伯特·奥本海默曾说：“当你面对技术上十分美妙的东西时，你会义无反顾地研究它，只有在取得技术成功之后，你才会考虑拿它来做什么。”

奥本海默的同事约翰·冯·诺伊曼也指出：“我们正在创造的东西是个怪物，它将改变历史——假如还有历史留存的话。但无论后果多么可怕，我们都不能不去探索它，这不仅是因为军事需要，更是因为从科学家的角度来看，知道某条路径可行却不去探索，是违背科学道德的。”

现在是一个关键时刻。

技术浪潮真的要来了，但还未把我们淹没。尽管大势已定，但浪潮的最终形态，即我们将面临的具体困境，还未确定。

我们不能浪费几十年的时间等待结果揭晓。我们应该立马着手应对。

浪潮将至。