当黄仁勋接起特朗普电话，当奥特曼暂缓上市，AI安全讨论变味了吗？

本文来自微信公众号： 奋进的肚腩 ，作者：肚腩说

9月14日，洛杉矶All-In峰会上，半靠在沙发背上的黄仁勋接到了特朗普的电话，随后他把通话接给现场听众。免提一时没弄利索。特朗普拿这件事开了个玩笑：黄仁勋能做那么复杂的芯片，怎么连电话免提都搞不定。

接下来，话题不知道是不是刻意的，从手机转到了这两天讨论度极高的人类和AI的未来和威胁。

特朗普否定了机器人接管世界的说法，把这类恐慌称为“骗局”，他还提起自己曾在麻省理工任教的叔叔，说自己也有一点遗传优势。黄仁勋接话：这就解释了您为什么这么懂AI。

这种场合，客气几句不难理解。只是听到这里，多少有点恍惚。实验室里还在争论怎样证明模型可靠，台上已经聊到了遗传。

电话里最实在的话，是数据中心能带来财富。特朗普很看重这笔生意，也担心阻力会让中国获益。他补充说，做事要谨慎，但不意味着就要停掉一个产业。

AI究竟有哪些危险，还没有人能讨论清楚，但是为什么不能把AI发展放慢，理由已经很充分了。

黄仁勋也没说，出了问题继续跑

这通电话太容易被人理解为卖芯片的人和总统一唱一和，而把安全研究扫地出门。

但后面还有一段。

据澎湃新闻对现场的报道，黄仁勋随后认可了Anthropic离职研究员Jacob Coxon的勇气，认为内部人的警告应该认真听，他反对把毁灭世界的预测说成有科学依据的结论，但他也表示，如果某些公司的开发已经出现控制问题，这些公司应该暂停相关工作，或者放慢。

这层意思不能省。否则，我们嘲笑别人草率，自己也只剩下一张剪得很利索的嘴。

他提出的反问有道理：一家实验室出了问题，凭什么要求整个行业一起停？拿一个无法验证的灾难概率，去要求大量本来正常的研究、应用和投资让路，别人有资格追问依据。

我也不愿意因为某位CEO描述了可怕的未来，就把判断全交给他。模型越强，老板越说危险，再由老板告诉大家只有谁能安全地做，这套说法确实值得警惕。安全要求也可能抬高门槛，让已经坐在桌边的人更不愿添椅子。

但同样要追问黄仁勋：如果问题可能波及公司以外，只让公司自己决定停不停，够吗？

一家企业最先知道出了什么事，也最清楚暂停会损失多少。它的工程师希望多测几轮，客户在催交付，隔壁公司的新版本已经上了榜。这些都不需要谁存心作恶。只要每个人都把手头的工作往前推，暂停就会变成一件需要额外解释的事。

继续通常叫按计划推进。停下来，却要写原因。

何况黄仁勋所在的位置，本来就更容易看见继续的好处。他卖的芯片，可以用来训练更强的模型，也可以用来做安全测试。实验室老板看到的则更复杂：能力提升有商业价值，失控也可能先砸在自家公司头上。各自的判断里都有知识，也都有生意，不能因为前半句专业，就假定后半句没有利益。

这不证明谁在撒谎。它说明，我们不能只找一个最懂AI的人，再指望他顺便替所有人分配风险。

奥尔特曼不上市，模型大跃进就会放慢吗

电话之前两天，奥尔特曼接受《财富》采访，表示OpenAI今年不上市。按彭博对同一采访的报道，上市最早也要等到2027年。他把当下的安全担忧放在了这个决定的背景里。

上市关系到融资和股东退出，挂牌后还要接受公开市场的审视。暂缓IPO可以少一部分眼前压力，但私有公司照样要融资，员工照样惦记手里的股份。只是没有一根每秒跳动的股价曲线，替大家把着急画出来。

更何况，OpenAI已经披露过比IPO日程具体得多的动作。

8月18日，公司说，为加强防护，它曾将准备部署的最新模型的强化学习训练暂停两周；按那篇文章当时的口径，计划中最大的一次前沿强化学习训练仍在搁置。它还描述了一个处置要求：发现可能突破关键安全边界的告警后，相关团队若不能在30分钟内确认是误报，应暂停该活动。“暂停”在这里有了对象、有了条件，远比把上市日程往后挪更接近研发现场。

既然有这些材料，就不该把奥尔特曼写成只会许愿的人。

另一个容易漏掉的事实是，OpenAI并非从未给安全部门权力。公司2024年公布的规则就写明，安全与保障委员会会与全体董事会监督模型发布，包括在安全问题解决前延迟发布的权限。现行组织结构仍保留该委员会。

所以问题不能停在“有没有人能叫停”。要看的是，这项权力在多贵、多难看的情况下仍然能用。

OpenAI基金会控制营利集团，并有权任命和更换其全部董事。按重组完成时的口径，基金会持股26%，微软约27%，员工与投资者合计约47%。基金会自身的资源，也与集团长期价值联系在一起。这并不等于基金会必然向利润投降。只是它也要面对一种不太好写进宣传材料的犹豫：今天少发展一点，也许更稳妥；可公司少赚的钱，也会减少自己以后能做的事。

为了更长远的使命，眼前再冒一点险。这个理由，有时连说的人自己都很难反驳。

上市与否，改变不了这种犹豫。要查它怎样被处理，得往公司里面看。

外人进门以后，总统会不会觉得他碍事

Anthorpic的阿莫代伊这次提议，让外部评估人员常驻实验室，接触接近内部风险团队能看到的材料，并能自主发表重要发现。他也给公司留下了有限的保密删节空间，但不能只因为结论难看就删掉。

这个安排应该是有用的，哪怕没有直接叫停权，一个能够公开提出异议的人，也会让公司决定继续时多承担一点解释责任。

不过，这仍是一项需要落实的承诺，既不能把方案当作已经签好的合同，也不能把外部审查写成万能钥匙。评估者能看到多少，专业判断会不会错，发现问题后怎样处理，都需要在实际工作中检验。

阿莫代伊还希望政府参与，把一些能力提升与安全要求联系起来，让不愿自愿遵守的公司也受到约束。

读到这里，再回头看特朗普的电话，事情就不只是几位老板吵架了。

企业想把行业共同规则交给政府讨论，政府最响亮的回应却是：担忧可能是骗局，慢下来会让对手占便宜。那以后某份评估报告建议延后训练，它要面对的可能不只是公司财务部门，还有“你是不是在拖美国后腿”的质问。

这句话比技术问题容易回答，也危险得多。

模型会不会越权，需要检，一个人是不是缺乏国家竞争意识，往往看他赞不赞成继续就够了。久而久之，研究者除了证明自己的判断，还得证明自己没有坏心，不是群众里的坏人。

中国在这场讨论里的出场方式，也颇耐人寻味。

特朗普拿中国可能受益来反对减速。阿莫代伊主张减速，却同样把保住美国领先列为前提，还提出限制中国获得先进芯片等措施。

两边关于速度吵得很凶，关于谁应该领先，倒没有那么大分歧。但对咱们而言，很难仅凭谁多说了几次安全，就把谁当成不带条件的公共利益代言人。

可具体的风险依然要查。政治立场不能替技术证据判真伪，正如国家竞争也不能自动证明一套系统已经可控。

一个越权动作，会不会造成损失，不看它能给哪个国家的宣传带来麻烦。

不用先同意世界末日

我对这轮争论最不舒服的地方，是普通人的要求越来越难找到合适的说法。

你希望AI更便宜、更好用，也希望自己的资料不要被乱传，系统出了问题有人处理。原本很正常。可听完台上的争论，仿佛只能在两种身份里挑：担心失去未来的保守派，或者愿意接受一切代价的进步派。

中间那个只想把日子过好的人，显得很不够宏大。

他未必懂什么递归自我改进，也无法判断一个灾难概率是怎么计算出来的。但他能够理解：公司查到了异常，就该把异常处理好；模型能力扩大，能接触的系统更多，检查也应更仔细。某项训练需要暂停，并不妨碍另外一些人继续用AI查资料、写程序、研究疾病。

没必要把每一次具体的检查，都抬到整个人类要不要进步的高度。抬得越高，眼前的责任越容易看不见。

同样，主张审慎的企业，也得接受审视。你凭什么设这条标准，有没有夸大自己产品的能力，会不会把同行挡在门外，自己有没有照办。公共安全不能成为头部公司商量好之后，递给后来者的一张收费单。

这些追问很费工夫，没有总统在免提里说一句话痛快。但我宁愿这个行业在这里啰嗦一点。

以前写Coxon辞职，我希望研究者提出疑虑，不必先把自己的工作辞掉。看完这场峰会，还得加上一点：一个人提交风险报告，也不该顺便接受一场爱不爱国的审查。

未来当然值得争取。争取的过程里，允许有人把测试没通过的地方重新说一遍，应该不算多么过分的要求。

他最好可以坐下来，说清楚自己看到了什么。听的人可以反驳，可以要求更多证据，然后再决定做不做、怎么做。

至于台上已经笑过一轮，电话里也已经表过态，那就让他们先等一会儿。