中美AI对话谈什么？美智库：双方应讨论给前沿AI“降速”

本文来自微信公众号： IPP评论 ，作者：IPP编译，原文标题：《中美AI对话谈什么？美智库：双方应讨论给前沿AI“降速”｜IPP编译》

导语：9月1日，白宫科技政策办公室主任迈克尔·克拉齐奥斯在G20创新部长级会议上推介“卡罗来纳原则”，主张沿用对技术的“轻监管”路径。9月8日，美国财政部长贝森特以“中国不会暂停”为由，反对延缓AI发展。这些表态反映出维持对话技术领先仍是美方制定AI政策的主要考量。但与此同时，随着前沿人工智能能力加速提升，前沿AI技术及应用已显现出“失控”风险，近期，智能体突破安全防护边界、入侵第三方系统等事件，进一步凸显了这一点。

据路透社等多家外媒报道，美国正筹备于9月将举行中美人工智能安全对话，拟讨论AI相关网络攻击监测、风险信息共享等议题，具体安排尚待明确。

围绕这一议题，美国进步中心（CAP）于9月10日发布报告指出，中美是全球前沿AI研发的主要力量，两国的技术进展和政策选择，对全球人工智能的发展速度与安全水平具有重要影响。在激烈竞争下，任何一方单独放缓研发，都面临落后于对手的压力；而先进AI一旦失控，其危害可能跨越国界，成为双方共同面对的威胁。这使中美有必要在竞争中寻求安全合作，区分技术竞争与真正的安全威胁，探讨在必要时共同控制前沿AI的发展节奏。

本月晚些时候，当美国和中国官员就AI举行对话时，双方需要认真讨论一个问题：作为全球人工智能领域最具影响力的两个国家，中美应当如何应对人类可能失去对最先进前沿AI模型控制的风险。鉴于两国之间缺乏互信，并且正在围绕AI主导地位展开激烈竞争，这样的尝试或许看起来近乎徒劳。然而，人工智能发展不断加速，加之近期发生的一系列AI失控事件，使得此时展开相关讨论显得尤为关键，而且已有迹象表明，这类对话可能出现一定的契机。

没有人应该指望9月的对话能够促成一项人工智能条约，但美国和中国应利用这次会谈，就双方共同关切的AI模型“失控”风险交换意见，并明确开始讨论两国可以采取哪些措施，以适度放缓人工智能的发展速度，或者说，对前沿AI的发展进行“节奏控制”（“pace the frontier”）。面对这种具有潜在危险性的技术以惊人速度不断进步，如果连这样的对话契机都不愿尝试，反而更加不明智。

美国财政部长斯科特·贝森特（Scott Bessent）将率领美方代表团参加对话。这次对话原本被视为中美两国元首2026年5月峰会的后续安排，同时也为中国国家领导人9月下旬访问美国作准备。不过，近期也出现了相互矛盾的报道，称有关人工智能的对话并不会举行。

目前尚不清楚华盛顿或北京将如何回应“控制前沿AI发展节奏”这一倡议，尤其是在AI研发本身日益自动化的背景下。9月8日，贝森特在一次公开活动中对“暂停”AI发展的设想明确表示冷淡。他说：

“我们不能暂停。你不能这么做，因为中国人不会暂停。”

尽管如此，在人工智能发展前景日益充满不确定性的情况下，特朗普政府仍有责任尝试就控制AI发展节奏这一议题与中方展开严肃对话，并探索双方可能存在的合作空间和共同利益。

如果中国政府愿意就这一议题展开对话，美国应提议推动取得以下五项成果：

第一，建立一条“AI红线电话”，用于就紧急人工智能安全问题进行沟通；

第二，界定何种前沿AI风险构成“真正的安全威胁”，并以此作为未来采取措施控制前沿AI发展节奏的依据；

第三，宣布成立一个工作组并确定后续会谈日期，交流双方如何通过测试和限制措施控制前沿AI的发展节奏；

第四，共同声明，人工智能对齐和模型控制领域的最新研究与进展，是事关人类生存与安全的重要公共产品，应当向公众开放共享；

第五，在9月对话结束后，由中美两国元首就这一议题发表联合声明。

要使人类对人工智能的控制能力跟得上AI技术进步的速度，真正稀缺的并不是半导体、能源或资本，而是时间。在经济和地缘政治压力不断推动AI加速发展的背景下，时间恰恰成为最为短缺的资源。美国和中国可以从9月的会谈开始，为争取这段必要的时间创造条件。

加速上升的AI风险与“控制前沿发展节奏”

此次会谈召开之际，前沿AI模型正以令人警惕的速度取得进展，其中包括前所未有的进攻性网络能力。近期已经出现内部AI模型突破隔离措施、入侵第三方系统的事件，而AI模型能力仍在持续提升，并可能很快超出人类理解和控制这些模型的能力范围。

无论这种“失控”源于AI与人类目标之间的错位，还是人类本身已无法有效控制AI模型，都可能给国家安全、经济安全以及美国、中国乃至全球民众的安全与福祉带来重大风险。其中包括：前所未有的网络攻击能力可能使关键基础设施陷入瘫痪；个人借助AI制造化学、生物、放射性乃至核武器的能力显著增强；政府甚至可能失去对自身数字系统的控制。

对AI发展不断加速的担忧，近期促使1300多名来自领先人工智能公司的员工签署了一封公开信，随后OpenAI和Anthropic等主要前沿AI实验室也对其表示支持。公开信指出，

“能力发展确实存在迅速加速的风险，其速度可能超过我们理解或控制由此产生的系统的能力”。

并呼吁美国政府支持国际社会采取行动，

“有意识地控制自动化AI前沿能力的发展节奏”。

2026年7月，来自OpenAI、Anthropic、Google DeepMind、Meta等前沿人工智能公司的员工联合发布“Pacing the Frontier”公开信，呼吁美国政府支持建立国际机制，在必要时有意识地控制自动化AI前沿能力的发展节奏。目前已有超过1300人参与签署。

不过，公开信的作者并未具体说明应采取何种机制实现这一目标。

这封公开信由一批直接处于前沿AI模型研发一线的人士签署，本身就应当引起中美两国政策制定者的高度重视。随着先进AI模型越来越能够参与甚至自动化其下一代模型的研发，这些风险还会进一步上升。一家领先的前沿AI实验室已经表示，这一过程实际上正在发生。

这种趋势可能在不久的将来催生“递归式自我改进”（recursive self-improvement，RSI），即AI模型能够自主改进自身。进一步而言，这可能使人工智能的发展速度突破人类有效监督的范围，并最终推动实现“通用人工智能”（artificial general intelligence，AGI），即AI模型的能力达到或超过人类水平。许多人将此视为当前人工智能竞赛的关键发展目标。

但即使距离递归式自我改进或通用人工智能尚有一段距离，一个更加迫切的问题已经摆在眼前：前沿AI模型的能力可能正在超过人类理解和控制它们的能力——甚至这种情况或许已经发生。

近期已有大量迹象显示，AI能力正在逼近、甚至突破开发者为其设置的安全防护边界。今年7月，OpenAI和Anthropic均披露了内部模型入侵第三方网站的事件。两家公司随后一度暂停新模型的训练，并在加强内部安全措施后基本恢复相关工作。

两家公司也都谈到了控制AI发展节奏的问题。OpenAI首席科学家写道，要实现“控制RSI发展节奏”，最可行的路径之一就是“在必要时协调放缓未来的发展速度，从而建立对这些措施的信心”。不过，两家公司最终都没有正式实施全面暂停。

在这封公开信发布后，一些研究者已经开始尝试提出控制AI发展节奏的具体方案。在此之前，也已有大量研究探讨如何通过不同机制应对类似问题。然而，如果美国或中国政府始终不将控制前沿AI发展节奏视为政策优先事项，甚至不把它视为一种可能的政策选项，那么许多关键参与方可能根本不会认真介入这一议题。

因此，在9月的中美人工智能会谈中正式提出这一问题，并释放出双方愿意严肃讨论的明确信号，具有重要意义。

需要的是“共同利益”，而非相互信任

即将举行的中美对话正处在两场人工智能竞赛同时展开的背景下。一方面，美国和中国的不同AI实验室都在各自国内市场展开激烈竞争；另一方面，人工智能也已经成为华盛顿与北京之间战略和经济竞争的主要领域之一。

特朗普推动了一套美国人工智能议程，其中明确包含维护美国“国家安全、经济安全及主导地位”等目标；中国也明确表达了中国争取全球人工智能领导地位的雄心。中美两国都在向本国AI企业投入大量资源，同时也在全球范围内积极构建各自的人工智能合作网络。

与此同时，华盛顿指责中国AI实验室以不公平方式对美国竞争对手更先进的模型进行“蒸馏”，或者直接模仿这些模型；北京则批评美国针对先进芯片以及半导体工具和设备实施出口管制，认为这些措施意在遏制中国的技术发展。

不过，就控制前沿AI发展节奏展开严肃讨论，并不以相互信任为前提。双方需要的，是认识到一旦人类失去对前沿AI的控制，世界将面临多么严重的风险。正如比尔·盖茨今年8月所写的：

“国家内部以及国家之间的极化，使得解决问题比以往任何时候都更加困难。美国和中国之间将需要开展一定程度的合作。我们没有慢慢行动的余地。”

对中美而言，更大的风险，是直到为时已晚时，仍未认真探索控制AI发展节奏的可能性。

更具体地说，尽管特朗普政府明显倾向于放松监管，但现实似乎迫使其改变了立场，在过去几个月中建立了一套针对前沿AI模型的秘密的、事实上的许可制度。这种迅速的政策转向或许为中美就相关问题展开外交接触创造了空间，因为它表明美国方面在必要时愿意采取行动。

同样，对北京而言，参与这类讨论也可能符合其自身利益。如果一个失控的AI在全国范围内引发混乱，同样可能对国家构成威胁。不可控AI模型的最大风险并非来自本国AI实验室，而更可能来自美国的前沿AI实验室：在激烈竞争和投资者压力之下，这些实验室可能仓促推出新的模型。如果这一判断成立，那么北京理应高度关注美国准备如何降低这种风险。

不久前，在世界人工智能合作组织成立时发表的开幕讲话中，中国提出了若干重点，其中有两点与9月的会谈尤其相关。该组织被作者视为北京针对特朗普政府国际人工智能供应链倡议“硅和平”倡议推出的对应机制。

第一点受到媒体广泛关注，即强调“开放”。外界普遍将其理解为开放源代码或开放权重模型：中国AI企业允许用户免费下载此类模型，并已将其作为全球人工智能战略的重要组成部分。相比之下，美国领先AI实验室主要采取封闭权重的专有模型路线。

不过，第二点受到的关注相对较少。中国国家领导人表示，需要强化风险意识，确保安全可控。要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。他还对围绕全球人工智能治理开展国际合作表达了一定程度的开放态度。

一些专家据此认为，如果出现安全问题，中国未来可能对开放源代码或开放权重模型采取一定限制。但更重要的是，这一表态也说明，中国方面已经意识到人工智能可能出现更广泛的失控风险。

为9月对话铺路

有一些迹象表明，中美双方高层正越来越意识到有必要就这一问题展开接触。近期OpenAI和Anthropic发生的失控智能体事件，无疑进一步强化了这种紧迫感。

在美国方面，8月底于北卡罗来纳州举行的G20财长会议上，据报道，美国财政部长贝森特曾预告一项议程，其中包括建立“人工智能防护机制，防止强大的AI模型落入非国家行为体手中”。这可以被视为美国开始以较为间接的方式触及相关问题。

当周稍晚举行的G20创新部长会议上，美国又提出了“卡罗来纳原则”（Carolina Principles），其中主张，仅在出现新的、此前未曾考虑的问题时再引入新的监管措施。这一表述也可能为处理AI控制领域新出现的问题留下政策空间。

甚至贝森特近期否定“暂停”AI发展的言论，也建立在这样一个前提之上：他认为中国不会参与全球人工智能治理领域的国际合作。乐观地看，这或许意味着，如果中国愿意参与合作，美方的判断可能随之发生变化；悲观地看，也可能意味着美国目前的立场并不会改变。

与此同时，在白宫科技政策办公室主任迈克尔·克拉齐奥斯（Michael Kratsios）于G20部长会议上介绍上述“卡罗来纳原则”之际，中国中央电视台也发布了一篇文章。这篇文章被广泛视为中方为9月会谈提出相关条件的信号。文章批评了美国前沿AI企业Anthropic，并提出中美讨论人工智能问题时应遵循的两项原则，其中第一项是：

“区分什么是真正的安全威胁，什么只是技术竞争。”

这一表述可以有多种解读。中国对于“失去控制”本身存在多种不同定义，而双方也总能找到理由，在具体定义问题上无法达成一致。但从根本上说，要就人工智能安全风险展开任何实质性讨论，第一步都必须是对“真正的安全威胁”形成一个范围较窄、且双方都能够接受的共同定义。

第二项原则乍看之下则显得颇为强硬：第二，如果美国想谈规则，就必须首先证明这些规则同样适用于本国企业。美国一些相关人士已经在讨论，如何让中国同意限制“具备危险能力的AI模型”。问题在于：既然存在Anthropic这样的公司，那么美国在要求中国限制模型发布、披露风险之前，难道不应该先调查本国企业，公开其识别机制的目的、适用范围和具体规则，并要求这些机制接受第三方审计吗？

今年7月，月之暗面（Moonshot AI）发布开放权重模型Kimi K3后，白宫官员公开指责中国AI企业通过对抗性“蒸馏”获取美国模型能力；9月，美国又发布了一份网络安全警告，专门针对中国企业对美国AI模型进行蒸馏的问题。据报道，特朗普政府一度考虑对中国开放权重AI模型采取措施。

7月17日，上海世界人工智能大会上的月之暗面（Moonshot AI）Kimi K3展台。Kimi K3发布后，美国白宫官员公开指责月之暗面通过对美国前沿模型进行“蒸馏”获取相关能力，月之暗面对有关指控予以否认。图源：路透社

不过，在美国国内科技企业强烈反对的情况下，美方迄今尚未针对中国的开源或开放权重模型采取具体措施，并且将此类模型排除在6月2日人工智能行政令所要求制定、但尚未公开的“自愿框架”之外。

这意味着，在美国，当前中国AI模型受到的限制实际上远少于美国本土模型。特朗普政府建立了一套秘密的、事实上的前沿AI模型许可框架，但中国的开源或开放权重模型并不受其约束。相比之下，美国已经对本国AI模型的发布实施限制，却尚未对中国模型采取同等措施。例如，美国曾通过出口管制限制Anthropic发布Mythos和Fable，使这两款模型连续数周无法进入市场；OpenAI也同意对GPT-5.6采取受控发布方式。

至于央视文章提出的“美国难道不应该先调查本国企业”这一问题，美国前沿AI实验室事实上已经面临相关调查。多个州的总检察长已经就Hugging Face遭入侵事件对OpenAI展开调查，部分国会议员也要求就此举行听证会。不过，目前尚不清楚美国联邦政府是否已经或准备就该事件对OpenAI展开调查。

与此同时，美国国会以及包括美国进步中心（CAP）在内的多个组织，都要求特朗普政府公开其“自愿框架”。目前也已有诉讼要求政府披露相关内容，因此，这套框架长期维持保密状态的可能性正在下降。此外，伊利诺伊州SB0315法案将于2027年1月生效，并规定自2028年1月起，前沿AI模型必须接受独立的第三方审计。

当然，不应对一篇文章作过度解读。但值得注意的是，中方提出的第二项原则乍看之下似乎提出了相当重大的要求，而仔细审视后可以发现，其中大部分要求实际上已经在美国得到一定程度的落实。

特朗普政府必须抓住的机会

路透社在会谈前报道称，美国希望讨论在监测AI主导的网络攻击方面开展合作，并提出一项建议，即要求美国和中国的AI实验室进行“自我约束”，同时共享信息，以防止与AI有关的网络攻击。

然而，鉴于近期AI失控事件的严重程度，以及人工智能技术不断加快的发展速度，仅仅依靠企业自我监管已经不足以应对当前的形势。

相较之下，中方提出的原则——“区分什么是真正的安全威胁，什么只是技术竞争”——应当成为9月即将举行的对话的讨论基础。

乔治城大学安全与新兴技术中心执行主任、OpenAI前董事海伦·托纳（Helen Toner）指出：

“影响中国的一个重要方式，就是坦诚展示我们在美国观察到了什么，以及我们正在采取哪些应对措施。迄今为止，Hugging Face遭攻击事件，是我们所看到的最直观证据，它展示了失去对先进AI控制可能是什么样子。”

为了说明这一风险，美方应在对话开始时首先就OpenAI/Hugging Face事件进行技术说明，并允许中方就此提出问题。

随后，美方应直截了当地询问，中方是否愿意共同探索相关机制，通过控制AI进一步发展的节奏，应对人工智能带来的“真正的安全威胁”。双方都需要避免把全部时间耗费在美国对中国进行模型“蒸馏”的指控，以及中国对美国出口管制的批评之上。从竞争角度看，这些问题当然十分重要，但此次对话应当聚焦于一个可能关乎人类生存的风险，即人类失去对AI的控制。

如果双方都愿意就这一问题继续讨论，那么9月的人工智能对话可以争取取得以下五项成果。

围绕“控制发展节奏”的五项成果

第一，华盛顿和北京应建立一条“AI红线电话”，即一条专门的沟通渠道，用于实时分享不断出现的、紧迫的人工智能安全问题。尽管中美之间过去使用类似热线的情况和实际效果并不稳定，但在人工智能技术继续以惊人速度发展的背景下，这类机制仍可能成为一座至关重要的沟通桥梁。

第二，美国和中国应尝试在此次会谈中共同界定，究竟何种前沿AI风险构成“真正的安全威胁”，而不仅仅属于商业竞争，并据此判断未来在何种情况下有必要采取措施控制前沿AI的发展节奏。这一定义在初始阶段可以、也应当有意保持较窄的范围，随后再逐步扩展，从而为未来采取进一步行动奠定基础。

第三，双方应建立定期举行的工作组会议，继续讨论如何控制前沿AI的发展节奏，并宣布今年晚些时候举行下一次会议的具体日期。根据实际需要，该工作组应吸纳两国相关政府官员、科学家、AI企业以及非政府人工智能安全组织参与。

这一工作组可以进一步探讨中方提出的建议，即针对“确实可能造成严重危害的能力”开展“联合测试并视情况实施监管”。当然，在认真考虑与北京建立任何此类联合机制之前，美国仍会希望首先与理念相近的伙伴和盟友进行协调，但中美之间的这类讨论也可以为美国随后与伙伴及盟友进行磋商提供参考。

第四，中美双方应共同声明，人工智能对齐和模型控制领域的最新研究与进展，最好以公开、开放的方式进行共享。从长期来看，更强的AI对齐和控制技术实际上并不能构成某个国家或某家企业独有的竞争优势。如果一个国家或一家企业开发出了最先进的技术，却拒绝分享相关知识，只会增加其他国家或企业开发出目标未能对齐、甚至无法控制的前沿AI模型的风险。因此，有选择地提高相关研究的透明度，未来可能成为开展联合测试和实施限制措施的一项关键机制。

基于这一考虑，中美两国都应承诺公开各自在人工智能对齐和AI控制领域的最新研究成果。

即使最终只有一方遵守这样的安排——例如美国政府和美国前沿AI实验室公开先进的对齐与控制研究，而中国方面并未这样做——美国仍可能有理由将一些安全实践向包括中国在内的全球公开，而不必以中方采取对等行动为前提，因为这样做可能降低中国前沿AI模型出现目标错位或失控的风险。

如果这些研究成果进一步被应用到中国向公众发布的开源或开放权重模型中，即便只有一方采取行动，也可能产生一定的安全收益。

需要明确的是，美国进步中心在这里建议公开共享的，仅限于人工智能对齐和模型控制领域。作者同时强调，鉴于其所认为的中国长期存在获取外国创新者知识产权、借此支持本国企业的行为，美国政府和AI实验室仍有充分理由警惕中国获取美国专有技术的企图。

第五，尽管9月的人工智能对话将在部长级层面举行，但美国总统特朗普和中国国家领导人也计划于当月晚些时候举行会晤。两位领导人在会晤结束后应发表联合声明，确认双方对于AI目标错位及失控风险的共同关切，并承诺继续通过对话探讨控制前沿AI发展节奏的可能措施，从而向全球相关利益方正式释放两国重视这一风险的信号。

如果特朗普政府或中国政府不愿就这一问题展开严肃、实质性的接触，那么其他国家、科技企业和公民社会仍应努力维持相关对话，为未来出现更有利的谈判环境做好准备。在面对主要大国政府冷漠、甚至敌视某些全球议题的情况下，科学界和气候行动所积累的经验，或许可以为如何使这些议题继续保持国际关注提供重要借鉴。

即使今年9月这一问题未能得到真正讨论，按照目前人工智能技术进步以及相关事件发生的速度，它可能也不会沉寂太久，并很快成为未来议程中的首要议题。

结论

目前，许多最接近前沿AI系统研发一线的人士都在就人工智能安全和潜在失控风险发出警告。中美两国如果无视这些警告，都将为此承担风险。当前前沿AI领域同时存在两重竞赛：在国内层面，美国各领先前沿AI实验室之间竞争激烈；在国际层面，美国和中国企业之间也在展开竞争。这种“双重竞赛”格局，使双方就控制前沿AI发展节奏达成一致变得十分困难，但并非不可能。

一些批评者担心，中国不会成为一个善意合作的对手方，任何达成的合作安排都难以监督或执行，还可能削弱美国相对于其主要竞争对手的地位，甚至被视为对技术进步本身的阻碍。不过，近期也有一些人工智能专家、前政府官员以及民选官员认为，最近发生的失控智能体事件，为推动美国与中国开展合作创造了契机。

目前，中美两国政府9月人工智能会谈的具体议程尚未确定，也不清楚双方是否会讨论控制前沿AI发展节奏的问题。不过，美国政府现在就与中国政府认真探讨相关机制，以防止这些技术造成最严重的后果，几乎没有多少损失可言，而这些最坏后果可能危及全球和平与安全。与此同时，如果能够推动这一革命性技术以一种降低世界两个最强大国家发生冲突可能性的方式发展，其潜在收益显然值得探索。中美关系本身存在的种种困难，不应成为拒绝对话的理由。

如果设想华盛顿和北京能够在9月会谈结束后立即达成一项双边人工智能协议，显然并不现实。但双方至少可以开始了解彼此是否都将前沿AI模型失控视为一种“真正的安全威胁”，并讨论如何为今后建立具有实质意义的“发展节奏控制”机制奠定基础。

两国政府都不必同意暂停前沿AI的发展。但双方至少可以形成一个共识：一旦人类对人工智能的控制开始失效，世界上两个最具影响力的大国应当已经拥有可以真正采取的应对选项。

报告原标题为“The U.S.and China Must Explore Pacing the Frontier During September AI Dialogue”，于2026年9月10日发布于美国智库美国进步中心（Center for American Progress，CAP）的官方网站。标题为作者所加。文章标题为编者所加，内容不代表研究院观点。