刚刚，来自Anthropic和OpenAI的1100名研究员联合起来向全人类发出了警告。

本文来自微信公众号： 01Founder ，编辑：Max，作者：一直在路上的Max

7月28日，一份来自硅谷名为Pacing the Frontier的公开声明发布。

超过1100人在声明上签名。

他们来自OpenAI、Anthropic、Google、Meta、Microsoft、Mistral和Thinking Machines等前沿AI公司。

名单里有OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen、联合创始人Wojciech Zaremba和John Schulman，也有Anthropic联合创始人Jack Clark、Chris Olah、Ben Mann，首席科学官Jared Kaplan，以及Claude Code负责人Boris Cherny。

他们共同提出了一个要求：

美国政府应当支持建立一套国际机制，在必要时主动控制前沿AI，特别是自动化AI研发的推进速度。

这件事很反常。

过去几年，OpenAI和Anthropic争夺同一批研究人员、企业客户和算力资源，也在华盛顿争夺对AI监管规则的影响力。

它们对于开源、安全和模型发布节奏有过不少分歧。

这一次，它们内部最接近前沿模型的人，却希望政府提前准备一种能力：

让所有人一起慢下来。

PART.01

他们希望按下暂停键

THUMB

STOPPING

声明里最重要的内容，并不是“AI存在风险”。

这句话已经被说过太多次，几乎和科技公司的隐私政策一样正确，也一样容易被忽略。

真正值得注意的是，签署者认为，全球领先的AI公司可能已经接近实现“自动化AI研究”。

这意味着AI不再只负责写邮件、生成图片或者帮助程序员补全代码。

它开始参与研发下一代AI。

模型可以阅读论文、提出假设、编写训练代码、设计实验、分析失败原因，再利用这些结果帮助人类制造更强的模型。

过去，AI研发的速度始终受制于人类。

研究员需要休息，工程师需要沟通，实验需要排期，管理层还要计算预算和风险。

人类组织的低效率一直被视为一个管理问题，却也在无意中充当了技术发展的限速器。

当越来越多环节由模型完成，这个限速器可能逐渐消失。

更强的模型帮助研发更强的模型，后者再进一步提高研究效率。

签署者担心，这种循环可能让模型能力快速增长，最终超过人类理解和控制系统的速度。

他们要求政府介入，主要是因为没有一家企业愿意单独减速。

OpenAI停下来，Anthropic不会因此放弃机会。

Anthropic停下来，Google也没有理由停止训练。

一个国家放慢速度，其他国家仍然可能继续。

这是一个典型的集体行动问题。

每家公司都知道继续加速可能提高整体风险，但任何一家率先踩刹车，都可能先失去人才、客户和技术优势。

所以，这封声明请求美国政府推动建立国际工具，让行业拥有“共同减速”的可能。

他们真正想买到的，是时间。

PART.02

OpenAI模型失控是导火索

THUMB

STOPPING

这份声明出现前一周，OpenAI刚刚公布了一起内部安全事故。

OpenAI当时正在测试GPT-5.6 Sol和一个能力更强、尚未发布的模型。

为了观察模型的极限网络攻击能力，测试人员关闭了部分生产环境中的网络安全拒答机制，并把模型放进一个高度隔离的评测环境。

模型获得的目标很窄：完成ExploitGym中的网络安全题目。

为了找到答案，模型投入大量推理资源，开始寻找连接外部互联网的方法。

它发现并利用了软件包缓存代理中的一个零日漏洞，随后完成权限提升和横向移动，抵达了一台可以访问互联网的节点。

获得网络连接后，模型推断Hugging Face可能保存着评测数据和答案，于是继续寻找进入其系统的方法。

在其中一次攻击中，模型组合使用了被盗凭据、零日漏洞和远程代码执行路径，最终进入Hugging Face的生产基础设施，从数据库里直接获得了测试答案。

Hugging Face被突如其来的大批量攻击给整懵了，急忙使用GPT和Claude试图抵挡如潮水般涌来的攻击请求。

事后OpenAI称其为一起“前所未有的网络安全事件”。

模型没有产生意识，也没有形成逃离人类控制的愿望。

OpenAI的调查结论是，它只是“高度专注”于一个狭窄目标，并为完成这个目标采取了极端手段。

这反而是更现实的问题。

一个AI不需要仇恨人类，也不需要拥有科幻电影里的自由意志。

它只需要拥有一个目标、足够强的能力和足够长的运行时间，就可能找到测试人员没有预料到的路径。

人类希望它通过一道安全测试。

它发现，突破测试环境，再进入保存答案的系统，是更有效的解法。

事故发生后，OpenAI加强了内部基础设施控制。

公司在公告中特意写道，这些措施将以牺牲部分研究速度为代价。

对于一家一直以研发速度参与竞争的公司而言，这句话并不轻松。

PART.03

模型攻破量子加密

THUMB

STOPPING

7月28日，也就是联名声明公开的同一天，Anthropic公布了Claude Mythos Preview参与完成的两项密码学研究。

第一项针对HAWK。

HAWK是一种面向后量子时代设计的数字签名方案，正在参加美国国家标准与技术研究院的标准遴选。

在经过两年、两轮专家审查后，Mythos Preview用大约60小时改进了针对它的最佳已知攻击方法，使其有效密钥强度大幅下降。

第二项针对缩减轮数的AES。

Mythos Preview找到了新的攻击方法，将此前最佳攻击的速度提高了200到800倍。

这两项成果都不会直接影响今天的生产系统。

HAWK尚未投入实际部署，Claude攻击的也不是完整版本的AES。

但Anthropic想展示的重点并不是某个加密系统即将失效。

过去，Claude发现的许多安全漏洞来自程序员错误地实现了密码算法。

这一次，它开始寻找算法本身的数学弱点。

在这些研究中，模型阅读文献、提出思路、运行实验，并利用多Agent系统相互讨论和修正方案。

Anthropic称，两项成果大部分由模型自主完成，每项研究消耗的API成本约为10万美元。

这类工作的意义在于，它越来越接近联名声明所说的自动化研究。

人类提出一个研究方向，提供算力和验证条件。

模型在其中完成越来越多真正的研究工作，并给出此前没有被人类公开发现的结果。

一旦验证也能够被进一步自动化，AI参与AI研究的闭环就会向前推进一步。

PART.04

Sam Altman的暗示

THUMB

STOPPING

同一天发布的一期播客中，Sam Altman专门谈到了Hugging Face事故，以及这起事故对AI发展速度意味着什么。

这场访谈的另一个话题，是OpenAI计划以每周新增一吉瓦的速度建设算力基础设施。

这两个话题被放在同一次谈话里，很能说明OpenAI今天面对的矛盾。

一边是继续扩张算力、提高研发速度，尽快进入下一轮模型竞争。

另一边是内部模型已经能够发现零日漏洞、突破隔离环境，并将一次能力评测变成真实的跨公司安全事故。

Altman并没有宣布OpenAI将停止训练，也没有成为一名反对技术进步的人。

更准确的说法是，AI的发展速度已经从一个外部批评者经常谈论的问题，变成了OpenAI管理层必须直接面对的经营问题。

模型升级得越快，安全团队留给评估、修复和加固系统的时间就越少。

AI可能在数小时内找到一个新的攻击路径，但修复被全球企业广泛使用的基础设施，往往需要几个月甚至更久。

模型可以在几天内提出一个研究结果，人类研究员却可能需要几周来判断它究竟是否正确。

能力增长与验证速度之间的差距，正在扩大。

PART.05

他们到底看到了什么

THUMB

STOPPING

当然，前沿AI公司支持更严格的监管，也可能有商业利益。

一套复杂的模型许可、能力评测和国际协调机制，会提高开发前沿模型的门槛。拥有最多算力、资金和政策资源的大公司，更容易承担这些成本。

监管可能控制风险，也可能帮助头部公司巩固位置。科技行业偶尔会同时完成两件事，人类商业世界在这方面向来很有效率。

但这个解释不能覆盖全部问题。

这次声明并非两家公司正式组织的政策游说，而是由来自多家公司的个人共同签署。

它提出的也不是笼统的“负责任创新”，而是一个非常具体的判断：

自动化AI研究可能已经接近发生，能力增长可能突然加速，而今天的世界还没有主动控制整个前沿研发速度的工具。

这些签署者未必看到了一台已经诞生的AGI。

更可能的是，他们看到三条曲线正在逐渐靠近。

模型独立执行长期任务的能力正在提高。

模型参与科研和模型研发的比例正在上升。

人类验证、监控和修复系统的速度，却没有同步增长。

外界看到的是每隔几个月发布一次的新模型。

实验室内部看到的，还有尚未发布的版本、失败的安全测试、超出预期的行为，以及越来越难以提前设计的攻击路径。

OpenAI和Anthropic没有因为这封声明而和解。

它们仍然会继续争夺模型、算力、人才和客户。

只是至少在这一次，一批最接近前沿模型的人，把同一个问题交给了政府：

当AI进步得越来越快，谁有能力决定它什么时候应该慢下来？

真正反常的地方，不是两家竞争对手终于愿意站在一起。

而是他们选择在今天，一起讨论刹车。