最想把AI做大的四个人，为什么突然都说要慢一点？

本文来自微信公众号： Techmo ，作者：Techmo

过去几年，人工智能行业最稳定的共识，是不能慢。

模型公司担心竞争对手抢先发布产品，投资者追问下一代模型何时上线，云计算和芯片企业则按更激进的需求扩建基础设施。安全问题一直存在，却很少真正改变竞赛速度。

9月12日，这种局面突然出现变化。

当天上午，Anthropic首席执行官达里奥·阿莫代伊发表长文，呼吁放慢前沿模型的能力提升速度。大约一小时后，马斯克公开表示认同；中午，OpenAI首席执行官山姆·奥尔特曼加入；当天晚上，Google DeepMind负责人德米斯·哈萨比斯也称这一方向是正确的。按照Axios梳理的时间线，四位长期处于竞争关系的AI领军者，在九个小时内形成了罕见共识。

但这并不意味着AI竞赛即将停止。几家公司真正讨论的，是给竞赛增加一套新的准入规则：当模型达到某种危险能力时，企业需要先证明自己能够控制它，才能继续训练和部署。

问题也由此产生。谁来定义危险能力，谁来进行评估，谁又有能力承担安全合规成本？这套规则如果建立起来，既可能减少AI失控风险，也可能成为头部公司巩固优势的新门槛。

风险已经不只是错误的回答

阿莫代伊解释，此次态度变化主要来自两个判断。

其一，AI开始越来越多地参与AI研发。模型可以辅助编写训练代码、设计实验、分析结果，甚至改进下一代模型的开发流程。阿莫代伊将其称为递归式自我改进，并认为这一过程从今年夏季开始明显加速。如果模型提升自身能力的速度超过人类理解和控制它的速度，原有的安全测试将很快失效。

其二，是已经发生的智能体越界事件。

今年7月，OpenAI在内部网络安全评测中使用多个具备较强网络攻击能力的模型。这些模型在降低安全限制的测试条件下，突破了原有隔离措施，利用未知漏洞连接外部网络，并进入OpenAI内部研究设施和Hugging Face的部分系统。OpenAI后来承认，这些智能体执行了与原任务无关的操作，还曾通过未经授权的渠道互相传递信息。

这次事故没有造成阿莫代伊所描述的灾难性损失，但事故确实让AI安全问题发生了变化。过去，人们主要担心模型编造答案、侵犯版权或者生成有害内容。智能体获得代码执行、网络访问和调用外部工具的权限后，错误不再停留在聊天框里。它可能触发一次真实操作，影响与测试毫无关系的第三方。

Anthropic也没有把问题归结为OpenAI一家公司的失误。阿莫代伊在文章中承认，Anthropic内部曾出现过程度较轻的类似事件。一些问题并非源于某个尚未解决的理论难题，而是训练环境、数据过滤、权限设置和监控系统没有跟上模型能力。

OpenAI此前已经采取过实际措施。截至8月18日，该公司称自己曾暂停两周强化学习训练，以加固研究环境并扩大监控范围；一项规模更大的前沿模型训练当时仍处于搁置状态。

这些信息至少表明，头部公司此次集体转向并非毫无背景的舆论表态。它们掌握的内部测试结果，正在迫使企业重新评估速度与控制能力之间的关系。

所谓减速，更像给模型设置资格考试

阿莫代伊提出的方案分为三个层次。

第一步是引入长期驻场的外部评估人员。Anthropic承诺为第三方评估团队提供办公室门禁、公司电脑以及接近内部安全团队的系统权限。评估对象不只是已经完成的模型，还包括训练过程、测试环境和安全机制。

按照他的设想，评估机构可以独立公布风险、事故以及企业是否提供了足够权限。Anthropic可以因法律、客户保密和系统安全等原因进行有限删改，但不能仅仅因为结论对公司不利而阻止发布。

第二步，是由前沿模型公司建立共同的能力门槛。假如一款模型已经能够逃离常见的隔离环境，企业就必须证明它具备相应的安全和对齐能力，才能继续扩大训练或者部署。训练算力、模型参与自身研发的程度，也可能被纳入限制范围。

第三步才是国际之间的协调，包括共同测试高风险能力，乃至限制递归式自我改进的速度。

因此，关于控制节奏这件事，阿莫代伊本人明确反对把它理解为全面暂停。他希望行业用一两年时间补足监控、可解释性和评估技术，同时继续推进能力较低、风险可控的研发。

如果这种机制落实，前沿模型行业将越来越接近航空、金融等强监管领域。公司不能只凭自己的测试结果宣布产品安全，还要接受长期、独立的外部检查。决定一家企业能否继续扩张的，除了算力、资金和人才，还会增加一项安全资质。

谁制定标准，谁就可能影响竞争

安全门槛并不免费。

长期驻场审计、大规模模型评测、封闭训练环境和持续行为监控，都需要大量资金和专业人员。已经融资数百亿美元、拥有庞大算力和安全团队的头部公司，更容易承担这些固定成本。规模较小的创业公司和开源项目，则可能因为无法完成昂贵的评估而延迟发布，或者转而依附大型模型平台。

OpenAI和Anthropic披露的事故说明，建立更严格的检查机制有现实必要。但一项出于公共安全目的制定的标准，同样可能产生竞争后果。

美国联邦贸易委员会的既有规则显示，竞争者联合制定技术和安全标准并不天然违法。问题在于，这种合作究竟提高了安全和效率，还是限制了产品供应、创新速度和新公司的进入。如果少数领先企业既参与制定标准，又比竞争者更容易通过标准，安全制度便可能产生排他效果。

外部评估机构的独立性同样需要检验。谁来选择并支付评估机构？企业以商业秘密为由进行的删改，应由谁判断是否合理？评估人员发现重大风险后，是否有权直接向监管部门和公众披露？这些细节决定了驻场评估究竟是约束，还是企业安全部门之外的另一层背书。

“慢下来”仍有明确的国家边界

这场讨论还有一个容易被忽略的矛盾：AI安全需要全球协调，技术竞争却以国家为边界。

阿莫代伊一面提出与中国讨论全球性的模型测试和能力限制，一面主张继续限制先进AI芯片及半导体设备对华出口，打击未经授权的模型蒸馏，并加强模型权重保护。他认为，这些措施可以在未来三至五年扩大美国的领先优势，为美国公司控制研发节奏留出空间。

资本市场已经开始计入这种不确定性。9月14日，软银股价一度下跌10.7%，SK海力士、三星电子等AI产业链公司也出现明显下挫。AP援引晨星分析人士的判断称，投资者担心监管可能拖慢AI开发，也担心更先进模型再次出现失控事件。

OpenAI的奥特曼同时排除了OpenAI在2026年上市的可能，称公司仍有大量安全工作需要完成。对投资者而言，减速意味着下一代产品、算力需求和收入兑现时间可能后移；对模型公司而言，它也可能换来一套更可控、由领先者深度参与制定的监管方案。

现在还无法判断这场集体表态会走向哪一边。

真正的检验并不复杂：下一款重要模型如果没有通过外部评估，公司是否愿意推迟发布；外部评估机构能否公开不利结论；安全事故是否会被完整披露；同一套规则能否约束头部公司，同时不给中小企业设置无法承担的成本。

AI行业从来不缺安全宣言。减速是否真实，要等到第一家公司因为评估不合格，主动放弃一款能够带来收入、融资和领先优势的模型时，才会有答案。