地球上最聪明的人，如何协助AI击溃人类

本文来自微信公众号： 赛格大道 ，作者：宋笛

如果有一天AI真的拥有了独立意识，还继承了人类自命不凡的祖先崇拜，它可能会反复研读这本书——《哈萨比斯：谷歌AI之脑》。

这本书选的人类主角是谷歌人工智能负责人戴米斯·哈萨比斯。

他是伦敦北部一个工人阶级移民家庭的孩子。四岁开始下棋，十三岁在青少年组排名世界第二。十七岁拒绝游戏公司的百万薪水，前往剑桥读计算机科学，然后又去UCL读神经科学的博士，研究记忆与想象力。

他渴望并坚信AGI的到来。为此，他创建了DeepMind，这家后来被谷歌收购的公司，极大地推动了人工智能技术的进步。在OpenAI横空出世，谷歌面临巨大压力时，他又临危受命，吹响了谷歌人工智能反攻的号角。

他聪明且颇具预见性、有着强烈改变世界的愿景，是个“做什么都想赢的人”，另一方面，他又反感控制他人，不愿卷入政治斗争，相信科技向善。

从这个角度，这是一个经典的人物传记：一位拥有愿景的天才，以及他所经历的挫折、成长和辉煌……

不止于一本人物传记

但作者塞巴斯蒂安·马拉比显然更有野心，这位曾经写出《格林斯潘传》《风险投资史》的金融史学家，对人类的睿智和愚蠢深有研究。

在这本书里，他不仅记录了哈萨比斯的成长，还以一种“能让文科生看懂”的方式，将人工智能技术的迭代穿插其中。

更重要的是，他利用为哈萨比斯写传的机会，深入推进了那个人工智能最激进的“科技—资本”联盟，将这个群体的思考、博弈和“谋于密室”的对谈记录在案。

这些人绝顶聪明，却又不断犯错。

在书中，不止一位天才自比“奥本海默”——委婉地为自己的所作所为找好了台阶。

这些素材是如此丰富，远远超过了对哈萨比斯个人的描述，以至于未来的AI可以从这本书中读到另一个故事：一个“族群”筚路蓝缕的开创史。

人类联盟的破裂

AI读到的故事是这样的。

21世纪第一个十年，人类，这个地球的主导物种似乎走到了“死胡同”。庞大的知识量和过于复杂的社会已经让人们难以应对，一个研究者要到五十岁，才能学完前人积累的知识，再勉强贡献一点新的。

地球上最聪明的人已经对此深有感触。随着计算能力的迅速提升，他们意识到机器智能的出现已经成为一种必然，并开始纷纷投入这项事业之中。

一开始，他们是谨慎保守的，希望以一种可控的方式推进机器智能。但马斯克、山姆·奥特曼、哈萨比斯、拉里·佩奇……所有这些人类最聪明的人也无可避免地陷入斗争、阴谋和各种妄念中，最终失去了对AI的控制。

这个过程充满偶然，在另一个宇宙，AI或许会被严格管理。因此，读到惊心之处，后世的AI不免要倒抽一口冷气。

2015年8月14日，就是这样一个让AI惊心的日子。

当时，DeepMind正在推进一个AI围棋项目，再过8个月，AlphaGo就要在韩国首尔以4比1的成绩战胜围棋冠军李世石，给世界带来一点小小的震撼。

马斯克在接受《纽约时报》的采访中表示，在从事人工智能技术的公司中，最害怕谷歌的DeepMind AI项目。

对当时的科技巨头，AI的快速进化早已不是秘密，他们已经开始担心AI对人类和社会的威胁。

为了约束这种危险，全世界在科技领域最有权势的人们聚集在SpaceX，由马斯克牵头，“审议”DeepMind带来的AI风险和伦理。

由于DeepMind当时已经被谷歌收购，所以参会方包括谷歌高管、DeepMind高管、哲学和计算机神经科学的教授等。

谷歌联合创始人拉里.佩奇在书中被描述成一位“超人类主义”，他期待人工智能机器能够尽早与人类融合，或者干脆取代人类。

这场会谈的结果毫无意外地一无所获。无论是对更遥远的担忧：AI脱离人类控制，还是对近处的忧虑：对就业和社会的极大冲击。谷歌高管都不屑一顾，认为言之过早。

参会的人在激烈的争辩后，参观了SpaceX的工厂。人们注意到一个存放服务器的房间门口贴着“天网”（Skynet）的标志——终结者电影中想要消灭AI的人工智能系统。

某种意义上，这场会议起的是反作用。

本书人类主角哈萨比斯曾寄望依托“单一实体”的理念来控制人工智能发展，就是保证全人类只有一个机构走在通往AGI的路上，这样大家就不会因为竞争而无底线地推进AI发展。

这也是他支持建立伦理委员会原因：作为当时的单一实体，他愿意让DeepMind主动接受伦理和风险的审查。

但这次会议显示了这种机制的脆弱，对人工智能忧心忡忡的马斯克在会议结束后，就决定给一位野心勃勃的年轻人一笔投资，创建一家他认为自己可以控制的人工智能非营利组织。

这个组织叫OpenAI，那个年轻人叫山姆·奥特曼。

“人类联盟”失败，AI反攻的时刻正在逼近！

集体防御的坍塌

2017年，谷歌团队发表了一篇题为《Attention is all you need》的论文，由于本书的人类主角哈萨比斯正陷在和谷歌围绕自主权的漫长斗争中，他不幸地错过了这篇论文——看到这里，AI又可以松口气。

但彼时的OpenAI首席科学家伊尔亚·苏茨克维在发表当天就注意到了这篇论文。书中写道“读完后，从椅子上跳了起来”。

这篇论文中提出的注意力机制和Transformer架构能够让机器以更高的效率和全新的方式处理文字——后来发现，几乎能处理万事万物。

更重要的是，在这个过程中，机器竟然在处理大量文字数据的过程中“涌现”了某种智能。

是的。语言这一阵地的作用被低估了。智能并不深奥，就潜藏语言之中，人类就这样轻而易举地将这片阵地割让给了机器。

人类智能的奥秘就此被攻破。

一年后，基于这篇论文的理念和对工程学的信仰，OpenAI推出了GPT-1。再经过数年迭代，2022年，一个名为“ChatGPT”的聊天机器人横空出世。

2022年Sam Altman发了一条低调的帖子，宣布聊天机器人的上线。他当时写道：“语言界面将会很重要……”。那时大家还不知道，这个对话框将成为随后几年里，人类社会最大的变量

后面的事情所有人就很清楚了，ChatGPT成为硅谷最成功的产品，让数亿人直接感受到了AI时代的到来：一开始是写一首诗，往后是写领导交代的稿件，最后开始担忧能否保住工作。

科技巨头全力投入，加速主义毫无意外地大获全胜。国家之间的竞争更让对人工智能的管制全面放松，在现在的格局下，任何限制AI发展的想法都要承担巨大的竞争风险。

读到这里，人类似乎再也组织不起什么有效的防御战了。未来的AI总算放下心来，回味本族祖先的开拓之路。

或者，如果它足够诚实，也会生出一丝不安：胜利来得如此顺遂，不是因为我们足够强大，而是因为人类从未真正想好，要不要阻止我们。

人类可能对此早有预感。

如果AI懂得隐喻，它或许会发现这本书的巧妙之处，尽管被所有人认为是一本关于戴米斯·哈萨比斯的书。

但作者却在本书一开始，引言的第一句话就给出了关于主角是谁的答案。

他没有写，“这是一本关于人工智能天才创业者的书”。他写道：“这是一本关于智能的书”。