AI不会毁灭人类，只是加速人类的自毁

本文来自微信公众号：青野有枯荣，作者：青野Tsingyeh，题图来自：视觉中国

AI会毁灭人类吗？这个担忧并不新鲜，在文艺界，它已经持续了至少半个世纪。相对于我们今天实实在在面临的挑战，那些想象更像思想实验和前哨战。至今，各界对AI冲击的讨论已经相当严肃和广泛：经济学家关注就业和生产率，科技业者则关心AI能力的边界与终点……不过，技术冲击显然不止于这两方面。它同时具备系统性的创造与毁灭两种可能：有时强化既有秩序（比如互联网和核技术），有时加速其瓦解（比如第二次工业革命和两次世界大战）。而我们希望知道：究竟哪一面会占上风？现有的社会和制度究竟是接纳这一技术，还是会被它冲垮？这取决于三个问题的答案：它是一项什么性质的技术？它出现在什么样的历史条件下？它冲击/赋权了什么权力结构？

今日的现实是，AI作为一项前所未有的智能技术，恰好出现于20世纪所建立的世界秩序走向失序之际。我认为，AI的风险未必在于替代或奴役人类，而在于加速人类秩序的自我崩溃。首当其冲的就是世界秩序。我们熟悉的宏观图景和规则多数来自20世纪——一个技术进步、国家能力扩张与冲突失控共同酿成了巨大灾难的时代。借着对20世纪上半叶苦难的反省，人类以理性和共识约束了大规模杀伤性武器，换取了持续半个多世纪的总体和平：大国均势、全球贸易、第三波民主化、平权社会……但令人担忧的是，这些秩序已逐渐失去自我纠正和修复的能力，正不可避免地走向衰败。这一趋势在2010年代即已显形，2016年逐步加速，而俄乌和美伊战争又将进程显著推进。我们看到，“大国政治的悲剧”正在走向另一个层面——大国优势的消失和威慑的瓦解。

大国政治是世界秩序的基石。和平得以维持、秩序得以延续的根本前提，是可信的军事威慑。抛开战争本身的正义性，这两场战争的进程已经表明：超级大国凭借巨量开支构建的威慑体系（无论是针对另一个大国还是中小国家）开始瓦解，以无人机为代表的非对称武器显著改变了战争的形态，航母舰队、隐形战机等少量而昂贵的平台所形成的技术优势，未必足以应对非对称、持续消耗的战场，更难以转化为政治胜利。世界在最近几场战争中甚至发现，产能和库存瓶颈不仅存在于昂贵的精确制导武器，也存在于普通弹药领域。这表明：21世纪以来的大国战略似乎过于倚重战略威慑和速战速决，而看轻了常规军力的建设和持久战的准备。在这一短板暴露后，超级大国施加强制、建构秩序的能力受到了明显削弱。不只是其他大国，越来越多中等国家也产生了拒止超级大国的预期，并迅速具备相应能力。

当秩序的核心陷入困境，秩序的存亡便取决于次级的维护者，甚至挑战者。然而，超级大国以外的世界表现同样令人失望：即使自身利益深受影响，它们仍缺乏结束这两场战争的能力和意愿。乌克兰和俄罗斯都未从盟友那里获得足以打破僵局的资源，这或许还可以解释为一种策略；但在能源冲击已经将许多国家推至边缘之际，国际社会仍未形成足以改变局势的集体行动，没有组织起疏通霍尔木兹海峡的有效力量，只是徒劳地仰仗“谁引发问题谁解决”。这种对卷入战争的恐惧，高度类似于20世纪20年代的英法对意大利和德国的绥靖。可以说，眼下的世界秩序不仅被其主导者破坏，也正被其受益者抛弃：它们或各怀鬼胎、或缺乏决断，最终展现出的只有侥幸、投机、绥靖和搭便车。

以上种种，都显示出21世纪的政治迥异于20和19世纪的特征——秩序变动在每个百年中都有发生，但负责任的政治和优秀的决策之匮乏，仍堪称今日的奇景。这一衰败在赢得了冷战的阵营中表现得尤其明显：表面上看，这一套“最不坏”的代议制似乎很难再产生优秀的政治家，反倒培养出越来越多的表演型政客，形成“劣币驱逐良币”。他们善于调动情绪、利用媒体，却不擅长制造共识和作出好的决策。而更进一步看，政治家和决策质量只是结果，更根本的原因是支撑制度运转的环境被破坏。这并非一朝一夕之功，而是半个多世纪政治积弊的结果：市场化和功绩主义社会造就了更加疏离、缺乏公共精神的个体，原本相对一致的中产阶级内部出现了生活状况的明显分化和断裂；新社会运动又进一步使社会布满细碎的身份政治堡垒，共识的达成愈发困难，经济、外交与战略等兹事体大的议题，也越来越深地被社会议题裹挟。因而，政党的策略也被迫从争取中间选民转向动员基本盘，进而压缩了政治妥协的空间。这一连串的问题相互交织，最终削弱了政党政治和民主程序的运行效果。与此同时，威权主义同样面临强化控制与社会多元化之间的矛盾，虽然保持着较高的决策效率，但未必拥有同等的决策质量。

但政治并非人类唯一的困境和脆弱点。不妨再问：我们这一套建立在信用货币基础之上的经济金融体系还有多少承受力？纵使从一战后金本位开始瓦解算起，这套体系的形成也不过百余年。它真的已经证明了自己具有恒久的价值了吗？无疑，它发展出了一套为自身辩护的学术理论，也拥有老练的技术官僚作为执行者。相比起金本位，它大幅强化了国家在经济中的角色，也在实践中确实展现出对冲危机和解放效率的能力。但问题在于，它缺乏消纳代价的能力。中央银行和财政部那愈发庞大的资产负债表相互勾连，面临着金融市场越来越多的质疑，以及通胀中枢上行的挑战。

归根到底，人类是用对“未来增长”的希望构建了对今日的信心。这种信心并非吹弹可破——现代财政金融秩序显然优于古代。公共支出的大头不再是低效且毫无产出的王室花销和战争，而是公共工程，以及对居民资产负债表的援助和修复，后者在08年金融危机后尤其明显。这一格局似乎意味着，在这场杠杆游戏中，我们总能找到一个相对低杠杆的部门，总能找到新的增长故事和愿意为它买单的人，进而为信心的延续争取时间。但，以上循环的内里是脆弱的，麻烦来自“金融加速器”：居民和实体部门的资产负债表已经越来越金融化，总体呈现顺周期性，其所谓稳健往往只是一种错觉。这意味着，“公共财政稳健-金融体系稳健-私人部门稳健”归根到底不是彼此独立、可以相互替代的关系，一旦越过某个限度，三者便会紧密关联。如果再来一次金融危机，或是COVID一般的紧急事态，教科书式的解法仍然是宽货币和宽财政双管齐下，但其代价还是这个体系能承受的吗？后者是否会走向螺旋般的自毁？……我们尚未见过答案，但这不代表它不会发生。

总结来说，走到21世纪的第三个十年，人类的治世已然危机四伏：在秩序层面，安全已经消失，争端次第而起。摆在各方面前的答案似乎都相当明确：无须再屈从于大国的强制和秩序，也无须指望谁会为自己负责，是时候拉起财政（如果尚有空间）、走向大规模的重新武装，为一场类似20世纪烈度的常规战争做好准备。然而，重整军备本身又会强化安全困境，使世界大战的风险逐步自我实现。如果没有力量打断这一趋势，2030-40年代，我们便可能会见证历史悲剧的重演。在政治层面，不同的治理模式都暴露出系统性难题，历史的巨大惯性使改革尤为困难：过去的模式都已被否定，没有人承受得起主动回归过去的痛苦；未来的方向却仍然不明，更好的选择尚未出现，没有人能够提出系统性的方案。

正是在这个窗口期，AI恰逢其时地出现了，并迅速卷入时代主题、俘获人类社会的共识：这是一项充满可能性的颠覆性技术，将成为经济发展的新引擎、国家竞争的利器，甚至可以说，它可能帮助我们这个时代偿还此前透支的一切。至少目前，人们感受到的是新技术渗透和巨额资本开支带来的甜蜜，资本市场也因而呈现出一种超越全球乱局和宏观冲击的坚韧。当然，所有人都知道红利期终会走到尽头，甚至可能戛然而止。我们在最近的两篇文章里《历史无法预见AI的未来》和《AI减速的多重悖论》对近景和远景做了讨论，但那些讨论更多基于市场和商业逻辑；也必须承认我们在更早的年初《人类有充足的时间来规避“AI末日”》一文中基于经济模型的分析有些过于乐观。我认为，行至今日，AI更根本的危险来自以上层面之外——即人类秩序可能无法消化AI，甚至落败于一套由AI塑造的秩序。人类文明或许最终将得以保留，但其中的动荡将明显加剧。

我们已经看到，AI智能具有越来越高的通用性，也在快速迈向自主性。这一变化的速度相当惊人。如果当前趋势持续，或许数年之内，AI自我改进、自主研究的循环便能跑通。届时在科学技术领域，人类的工作将越来越多地变为跟在AI身后，去理解、阐释、评估其结果。这意味着，人在创造和实践方面的主体性将受到剧烈挑战。如果AI最终拥有独立解决科学问题的能力，它的能力边界自然也不会停在社会与政治之外。这一挑战将很快蔓延到人类的组织形态和既有秩序上：在最小的权力结构中，我们看到越来越多的孩子会借助AI挑战父母的知识与经验权威，类似冲突一定会扩散到社区、城市、公司乃至国家。

一种较好的可能是，人类的既有体制能包容这一冲突，最终将AI作为一个可控的部件吸纳进现有的经济和政治秩序，时间与速度将是成败的关键。而更坏的情况是，在人类的制度完成吸纳之前，一套由AI独立运行或占据主导的治理程序已经出现，后者将构成一个替代性、竞争性的方案，其过程的冲击力不亚于19-20世纪诸多意识形态之间的对抗：起初，人们对“AI原生体制”（我们权且这么称呼它）的青睐，更多会体现为一种对现有建制的“不信任票”，正如欧美许多人将票投给右翼，首先表达的是对建制的不满，而非对其具体治理议程的认同。但如果人类的程序只能持续输出“低于平均”的结果，甚至制造了灾难性的冲击，那么“AI原生体制”就会俘获越来越多的信任和信众，甚至在人类社会中形成一群“降临派”——AI可能由此变成一种近乎宗教的权力来源。

演绎到这里，与科幻的边界已经非常模糊。这样的场景会出现吗？我认为概率并不低——不能否定科幻作为思想实验的意义。我们很可能高估了人类对自身主体性的坚持。毕竟，塑造人类意识的可以是语言、信息渠道与算法，它们已经被证明可以受到社会工程的操控；而人类也很擅长向现实妥协并适应现实。因而，我并不十分信赖人类作为一个整体，对AI秩序有太强的抵抗能力。

无论如何，政治与AI之间“捕获与被捕获”的战争已经开始，其核心是技术和权力的互动。回顾互联网时代，技术赋权是相对均衡的（这一点在威权国家体现得尤其明显）：一部分权力流向政府，一部分则流向社会，二者在动态博弈中形成了前者大体占优的新均衡。但到了AI时代，这种均势可能进一步偏移。博弈会从“政府-企业-社会”的三方结构，退化为“政府-企业”的双边结构，因为AI虽然赋能个人，却不像互联网那样天然扩展社会的组织与连接能力，而算力、数据与平台又高度集中。这意味着，社会从AI中获得的赋权可能相当有限，并逐渐退出斗争的主轴。

二元结构往往是不如三角结构稳固的。掌握AI力量的科技巨头们，真的能被政治力量驯服吗？我们有理由抱有谨慎态度：二者必然会在斗争中达成某种程度的合谋，但相比之下，科技巨头驯服政治力量的概率或许更大一些。毕竟，今天的大国大多面临内外交困的环境：不仅彼此为敌，也同时面临内部秩序重构。在这样的环境中，很难期待国家能交出出色的答卷，形势反而可能迫使它们不断地向技术的力量作出妥协。这场斗争必将惊心动魄，甚至有不小的概率出现失控的风险。只有在无数的意外和牺牲之后，共识的力量才可能把社会重新带回博弈局中，一个相对稳定的格局才可能降临。

本文来自微信公众号：青野有枯荣，作者：青野Tsingyeh