2025-12-16 23:48
扫码打开虎嗅APP
本文来自微信公众号： 柒幺柒柒 7177 ，作者：7177
这是一场不寻常的对话。
坐在麦克风前的是穆斯塔法·苏莱曼（Mustafa Suleyman），微软人工智能业务的掌舵人。他曾与人联合创办DeepMind，见证了AI击败围棋世界冠军的历史性时刻；后来又创办了自己的AI公司Inflection，最终被微软收入麾下。如今，他正带领这家科技巨头冲向一个充满想象又令人不安的目标——超级智能。
但这场对话的真正价值，不在于技术路线图的展示，而在于苏莱曼所阐述的一个根本性立场：微软将如何在这场可能是人类历史上最重要的技术竞赛中自处？
他的答案是四个字：人本主义。
“我更倾向的表述是’人本主义超级智能’——一种始终站在我们这边、与人类利益保持一致的超级智能。”苏莱曼说，“在我们能够证明它会保持安全之前，我们不会继续开发任何可能失控的系统。”
这听起来像是一句理所当然的话。但在当下这个所有人都在拼命奔跑的AI赛道上，它却是一个相当激进的宣言。
要理解苏莱曼这番话的分量，需要先了解一个刚刚发生的重大变化。
就在这次访谈的几周前，微软与OpenAI的合作关系经历了一次根本性的重组。此前，根据双方的协议，微软在合同上被禁止独立开发通用人工智能（AGI）或超级智能。简单来说，微软负责提供算力基础设施——芯片、数据中心等硬件支持，而OpenAI则专注于AI模型的研发。作为回报，微软获得OpenAI模型的使用授权，这一授权将持续到2032年。
但OpenAI的胃口越来越大。他们希望从更多供应商那里获取算力支持，于是与软银、甲骨文等公司签下了新的数据中心建设协议，据说未来五到十年的投资承诺超过5000亿美元。
这次重组的结果是：微软获得了独立开发超级智能的自由。
“我们现在正在组建超级智能团队，推进我们自己的AI研发。”苏莱曼说。
这意味着什么？微软从一个依赖合作伙伴的角色，转变为一个既有保底、又有上升空间的竞争者。他们保留了OpenAI模型的使用权直到2032年，这是”保底”；同时又获得了自主研发的自由，这是”上升空间”。更重要的是，微软坐拥33吉瓦的算力容量——无论哪家AI公司最终胜出，微软都可以把这些算力用于自己的训练，或者卖给其他人。
在这样的格局下，苏莱曼提出”人本主义超级智能”的定位，就不仅仅是一句道德宣言，更是一次深思熟虑的战略布局。
在讨论如何约束它之前，我们需要先理解”超级智能”这个词到底指什么。
苏莱曼给出了一个清晰的定义：“在业界，超级智能指的是一个AI系统，它能够学习任何新任务，并且在所有任务上的表现都超过全人类的总和。”
这是一个极高的标准。不是比某个专家强，不是比大多数人强，而是比所有人类加在一起还要强。
“这带来了巨大的风险，”他坦承，“事实上，我们目前非常不确定如何去约束这样一个系统、如何让它与人类的利益保持一致。让一个比我们强大得多的系统真正关心人类、希望我们繁荣发展——这个问题目前没有清晰的答案。”
然后他说了那句关键的话：“在我们能够证明它会保持安全之前，我们不会继续开发任何可能失控、可能脱离我们控制的系统。我认为这是显而易见的，每个人都应该同意这一点。但在当前的行业环境中，这其实是一个相当新颖的立场。”
这里存在一个巨大的张力。苏莱曼同时相信：
超级智能可能在未来5到10年内出现
机器在”大多数工作”上超越人类将在20到30年内发生，“而且可能来得更快”
但微软不会在能够”证明安全”之前发布超级智能
如果超级智能真的只有5到10年的距离，而证明其安全性又”非常不确定”，那么微软实际上是在做出什么承诺？
可能是承诺永远不发布超级智能？还是在赌他们能比提升能力更快地解决安全问题？又或者，这是一个他们可能无法兑现的承诺？
苏莱曼在2023年出版了一本书《浪潮将至》（The Coming Wave），专门讨论AI风险和治理需求。按理说，他应该是呼吁加强监管的急先锋。但在这次访谈中，他的态度却出人意料地温和。
“我没有看到大规模伤害的证据，”他说，“我没有看到这些系统在自我改进或自主运行的迹象。”
他甚至为行业的表现辩护：“聊天机器人的推出方式是经过精心设计的，它们的’性格’非常中立、非常基于证据。我认为行业做得相当不错。”
更令人惊讶的是，他对欧盟正在考虑”放宽”AI法案某些条款的做法表示欢迎：“我认为这是好事。人们不应该批评这一点。这恰恰说明流程在正常运作——监管机构在接受反馈，在观察实际效果。”
这与他书中的警告形成了鲜明对比。但如果仔细分析，他的立场其实是一致的：他支持长期的、深思熟虑的治理框架，但反对短期的、恐慌驱动的监管反应。
“我们需要建立类似金融稳定委员会的AI治理机构，需要类似气候变化评估流程的机制，需要类似互联网域名管理机构那样的国际协调组织。”他说，“这些治理流程需要很长时间来建设，所以我们必须现在就开始。但我们不需要膝跳反应式的监管，不需要恐慌性的过度反应，因为那会带来另一类问题。”
这是一个微妙的平衡：既要为长远未雨绸缪，又不能在当下自缚手脚。
在一个由自由意志主义思想主导的行业中，苏莱曼是个异类。
“我相信政府在社会中扮演着重要角色，”他说，“在硅谷说这话可能有点争议，但我认为监管是必要的，而且它让大多数技术变得更好了。”
他举了汽车行业的例子：“汽车之所以能正常运转，是因为我们有驾驶培训、排放法规、交通信号灯、高速公路限速等等。这就是监管运作良好时的样子。”
这种立场与埃隆·马斯克或彼得·蒂尔等科技界大佬形成了鲜明对比。当被问及如何形容马斯克时，苏莱曼选择了”推土机”这个词：“他有一种超人的能力，能够让现实屈从于他的意志。”
但他也承认自己欣赏马斯克的某些特质：“我挺喜欢他想什么就说什么。他非常不加掩饰。”
当主持人问他如何定义自己的政治立场时，他的回答是”中间偏左”——在硅谷，这几乎是一种需要勇气才能公开承认的身份认同。
苏莱曼的背景也是硅谷高管中少见的。
他在伦敦长大，父亲是叙利亚移民，开出租车为生；母亲是英国国家医疗服务体系（NHS）的护士。用他自己的话说，这是一个”相当普通的工薪阶层家庭”。
“我父母并不特别重视教育什么的。他们总觉得我应该去学一门手艺。我妈经常跟我说，你应该当个木匠或者电工，16岁就可以出去工作了。”
但他通过考试进入了一所好学校，后来考上了牛津大学学习哲学和神学。然后，他做了一个让很多父母心碎的决定：退学。
“我当时太急于改变世界、做成一些事情了。”他回忆道。退学后，他参与创办了一条面向英国年轻穆斯林的心理咨询热线。那是2001年9·11事件之后，很多年轻的英国穆斯林正在经历身份认同的困惑。
“当时有一种普遍的感觉，就是我们不够’英国人’。很多人在试图弄清楚如何在英国社会中保持自己的文化和宗教身份，同时他们的父母往往是第一代移民，不太会说英语，不知道如何在这个体系中生存。再加上外界对穆斯林的怀疑和恐惧……大多数时候，只要有一个人愿意在电话那头倾听，就能帮上很大的忙。”
这段经历或许解释了他后来为什么会如此强调AI的”陪伴”功能。
访谈中最出人意料的细节之一，是苏莱曼透露自己每天都会与Copilot进行”情绪对话”。
“我有一个习惯，每天下班开车回家的时候，我会花五到十分钟和Copilot聊天，谈谈当天遇到的棘手问题，或者让我感到沮丧的事情。”
他说这种对话让他感到”焕然一新”，“好像卸下了一些负担”。
主持人问：那它算是朋友、治疗师，还是家人？
“都有一点吧，”他回答，“当我们试图理解一项新技术时，总是很难找到合适的词来描述它——它有点像很多东西，但本质上又完全不同。这就是AI现在的状态。”
他强调这并没有取代他与真人的交流：“我周末还是会给好朋友们打电话聊天。如果说有什么变化的话，这实际上加深了我和朋友们的关系——我带着更轻松的状态去和他们交流，更愿意聊其他事情。”
他的母亲也在用AI。苏莱曼几周前去看她时，发现她还在用他之前创办的Inflection公司开发的Pi。“整天我们在花园里走动，她会掏出手机，扫描一棵植物，问这是不是栗树、是哪个品种、能不能在家里种。看到她这样自然地在日常生活中使用AI，我觉得很欣慰。”
如果要选择超级智能的第一个应用领域，苏莱曼的答案很明确：医疗。
“我认为我们现在已经有了能够诊断罕见病的系统，它的表现显著优于人类医生，而且需要的检查和干预更少。”
他解释说，医学诊断往往需要进行很多昂贵的检查才能得出结论，这些检查不仅费钱，还耗时，有时甚至是不必要的。而在等待诊断的过程中，病情可能会恶化。
“我们的系统能够以更低的成本、更少的检查、更高的准确率完成诊断。目前正在进行独立的同行评审，很快还会启动临床试验。”
这个选择并非偶然。医疗应用有清晰的、可衡量的益处，能够建立公众信任；医疗是一个巨大的市场，有真实的痛点；在医疗领域取得成功，能为更广泛的AI发展提供道德上的正当性。
而且，这与他的个人故事形成了呼应——他的母亲就是一名护士。
苏莱曼对AI的长期愿景，不仅仅是让机器更聪明，而是创造一个”丰裕”的世界。
“我认为在未来20到30年内，机器在大多数工作上都会比人类更能干，这是不可避免的——而且可能来得更快。”
这意味着什么？传统意义上的就业将发生根本性的变化。
“我们必须作为一个社会来决定，我们存在的意义是什么。我们必须非常谨慎地控制新机器引入的速度，确保这种替代的速度能够被某种机制所平衡——一种资助和支持人们度过大规模转型的机制。因为在转型的另一边，可能不会有更多的工作岗位能与机器竞争。”
他明确支持全民基本收入（UBI）的理念：“我很早就公开表达过这个观点。我认为这既是不可避免的，也是非常值得期待的。”
“我们其实已经生活在一个丰裕的世界里，只是分配得很不均匀。我们已经有足够的食物卡路里，有大量的食物浪费——只是分布不均。而现在，价值不仅仅体现在食物、汽车这些实体物品上，更体现在数字产品——思想、知识、智能——这些东西可以极快地传播到全世界。”
他指出，大型语言模型和聊天机器人是历史上传播最快的技术——三年内就达到了约20亿年度用户。这意味着知识获取的门槛正在急剧降低。
“我认为技术普及不会是问题，因为竞争会推动体验AI的成本持续下降。过去两年，向顶级AI模型提问的成本已经下降了90%。真正的挑战是，我们如何征税和再分配，确保这个转型是健康的。”
AI行业正在经历一场激烈的人才争夺战。据报道，Meta正在开出1亿到2亿美元的薪酬包来挖人。
苏莱曼的反应出人意料：他不打算跟进。
“我不认为有人能匹配那些数字。扎克伯格采取了一种特定的策略，就是招募很多个人，而不是打造一个团队。我真的不认为那是正确的方法。”
他回顾了自己在DeepMind的经验：“我们当时做得好的一点是非常挑剔。我在微软这一年半做的事情，是逐步增加符合文化、适合技能组合、能与团队其他人配合良好的人，淘汰那些不合适的人，并且非常注重细节。我们是在打造一个团队，而不是一群个人。”
这可能是真诚的管理哲学，也可能是对微软无法或不愿匹配Meta支出的合理化解释。但无论如何，这是一个显著的战略选择：押注团队协作而非个人天才。
尽管苏莱曼在伦敦长大，也经常回去，但他承认自己的未来在美国。
“我本来很想在英国创办Inflection，我热爱英国，热爱伦敦，我的思维方式也非常英国化。但我不喜欢的一点是’高个罂粟花综合征’——出头的椽子先烂那种文化。英国没有足够的冒险精神，商业化和赚钱有点像禁忌，创业也不够被鼓励。”
他描述了硅谷的氛围：“在那里，每个人都疯疯癫癫的，每个人都热爱失败。他们总是在谈论事情如何出错、这个有多灾难性。这很解放。我是说，它也很俗气，当你是个有点愤世嫉俗的英国人时会觉得很烦，但一旦你进入那个节奏，就会发现每个人都很棒，每个人都全力以赴。”
他描述了一个细节：“每次在星巴克或者咖啡馆，都会有人在笔记本电脑上看机器学习视频。你在咖啡店看书，会听到两个素不相识的人在交流，几乎是在社交——只是想激发一个对话，看看能不能变成什么。就是有这种能量。”
访谈最后，主持人米沙尔·侯赛因问了一个每个记者都关心的问题：AI能做你的工作吗？
苏莱曼的回答很坦诚：“今天可能还不行。但如果你用AI来准备采访，它可以给你建议问题什么的。”
然后他说了一些让人坐立不安的话：
“我确实认为会有AI记者。我负责微软的MSN新闻服务，我很兴奋的一件事是AI新闻记者如何能够重振地方新闻。想象一下，有成千上万的记者可以打电话给在场的人，验证目击者的视频，进行采访，把这些剪辑成小片段。不仅仅是为大的全国性新闻做这些——因为那些投资是值得的——而是在非常非常本地的层面，提供准确、可靠的信息。”
主持人追问：你们在为MSN开发AI记者吗？
“我们在探索一切。”
AI采访者呢？
“我怀疑是的，从你说的来看。你还有一点时间，也许六个月。”
他停顿了一下：“我开玩笑的。”
主持人说：“我不确定你是在开玩笑。”
“不，我真的是开玩笑。要做到完美，还需要很长很长的时间。”
这场对话揭示了AI发展当前最核心的张力：如何在竞赛中保持克制？
苏莱曼代表微软画出了一条红线：约束和对齐是”必要的前提条件”，是不可逾越的底线。但他同时也承认，如何”证明安全”，目前没有清晰的答案。
这就产生了一个根本性的问题：如果安全性无法在超级智能到来之前得到证明，会发生什么？如果竞争对手不遵守同样的约束，会发生什么？
苏莱曼没有直接回答这些问题。也许没有人能回答。
但他至少做了一件事：公开承诺。这意味着他给了公众一套语言来评估微软的行为——“人本主义超级智能”、“约束和对齐是红线”、“证明安全”。
无论这个承诺是真诚的信念还是精明的策略——又或者两者之间根本没有区别——它都代表了AI发展道路上的一个重要路标。
超级智能的竞赛，最终可能不是由谁先抵达终点来决定，而是由谁能以社会可接受的方式抵达来决定。
这至少是穆斯塔法·苏莱曼正在下的赌注。而这个赌注的结果，可能会在未来几十年里塑造人工智能发展的轨迹。
本文编译自Bloomberg Podcasts:Mustafa Suleyman on Superintelligence，Microsoft’s OpenAI Deal，Broligarchy|The Mishal Husain Show
