《三体》作者刘慈欣：AlphaGo赢了，但人工智能不可能强大到没有弱点

虎嗅注：昨天中午，谷歌围棋人工智能AlphaGo赢下与李世石对决的最终局，以4:1的大比分拿下了具有划时代意义的人机大战。在整个5场人机大战过程中，人们围绕比赛结果、AlphaGo的表现不断猜测，但面对表现不俗的AlphaGo，大家最关心的还是，我们该对人工智能的快速发展感到恐惧吗？人类是否最终会为自己所害？

环球时报就此问题采访了《三体》作者刘慈欣，作为学科背景深厚的科幻作家，刘慈欣认为“这种恐惧并非完全没道理,但可能方向错了”，那么正确的方向是什么呢？本文转自环球时报，由吴志伟采访整理。

“阿法狗”和李世石的围棋大战最终以4:1落幕。伴随人机大战而起的，除了有关人类尊严的话题,就是对人工智能快速发展的恐惧。这种恐惧并非完全没道理,但可能方向错了。

像科幻小说或电影描述得那样,人工智能将“崛起”并最终统治人类，这是许多关心这一问题的人共有的恐惧。计算机刚出现不久,计算速度就远比人快,现在人工智能在围棋比赛中战胜人类，也只是量变而非质变,因为原本计算、检索等就是其擅长领域。而在其他领域，人工智能进展十分缓慢。很多事人类做起来易如反掌，计算机却基本上做不了，最明显的是理解自然语言，目前计算机只能做到把语言抽出来和数据库相匹配进行对应式理解，对于复杂语言的理解,计算机也无能为力。此外,，类的直觉、想象力和依靠极不完整的信息做出判断等能力，对目前的计算机来说非常困难。目前,包括“阿法狗”在内的弱人工智能,要想在智力上全面超越人类还遥不可及。至于说“天网”觉醒，只需要科幻作家考虑就行了。

“天网”般的强人工智能如真能出现，人类依然可以应对。人工智能不可能强大到没有弱点。人类也不可能预测不到某种级别的强人工智能即将出现,所以必然会在其出现之前采取一系列措施，譬如不让它与外部世界有硬件上的连接或是断绝所有能量供应，让其没办法生存等。再退一万步,即便强人工智能最后自我生存下来,避免被人类消灭,人类也可能找到与之共存的方法,并不是一定会被其奴役,比如人机结合就是一个共存的途径。

人类要想抵达强人工智能阶段,至少还面临三道技术障碍,最终它们能不能被克服,目前仍不得而知。第一，我们对自身意识的产生、智力以及脑科学研究还处于初级阶段。大脑神经元数量就像银河系的星星一样有上千亿个，每一个神经元结构都极其复杂。

目前,有科学家认为人的智力过程可能是在量子层面上发生，而量子世界的物理规律比宏观世界的要复杂得多。第二，目前计算机的性能提升速度很快,但使用的还是上世纪四十年代冯·诺依曼结构，这与我们并行的大脑结构完全不同。而对新结构的计算机研究进展却很缓慢。第三，更为传统的障碍是现阶段计算机总体计算容量还没达到人脑的容量。基于计算机摩尔定律,人们曾预测计算机不久就会达到人脑的计算容量。但目前集成电路工业的发展趋势已有放慢迹象,摩尔定律可能行将失效。