GPT-6 Astra 爆改Qwen 大脑：只动0.016% 参数，数学成绩疯涨

本文来自微信公众号： APPSO ，作者：发现明日产品的，原文标题：《GPT-6 Astra 爆改 Qwen 大脑：只动 0.016% 参数，数学成绩疯涨》

只改了0.016%的权重，一个8亿参数大模型的数学成绩，就从7.9%飙升到了48.1%。

更夸张的是，动手修改这些权重的，竟然是另一个大模型GPT-6 Astra。

最近，MIT CSAIL的研究团队展示了一种相当大胆的AI优化方法。他们让GPT-6 Astra像程序员阅读和修改代码一样，直接分析神经网络的权重，定位模型的问题，再修改其中的参数。

图｜研究博客地址：https://rikiyat.github.io/blog/weight-space-programming/

整个过程没有使用传统的梯度训练。研究人员仅修改了Qwen3.5-0.8B的131072个参数，就让它在MATH-500上的成绩从7.9%提升至48.1%，GSM8K从13.8%提升至67.1%，指令遵循能力也明显改善。

这项研究被称为「权重空间编程」（Weight-Space Programming）。

消息传开后，有人认为，这是一种刚刚在最新一代模型中出现的「阶跃式能力」。如果大模型能直接读写另一个模型的权重，未来AI优化AI，可能连重新训练都不需要了。

这是一种全新的、阶跃式的新兴能力，它刚刚才出现在最新一批模型中。

但质疑声也很快出现，有人指出，Qwen原本就存在严重的重复推理问题，数学成绩大幅上涨，可能只是因为Astra修好了这个Bug，并不等于一个模型凭空获得了新的数学能力。

从7.9%到48.1%，GPT-6 Astra究竟对这个模型做了什么？

从写代码到直接修改模型权重

一般来说，我们想要AI生成更好的回答，通常只能修改输入的提示词。而开发者想要修改模型的输出，可以用数据进行微调。

权重空间编程则尝试直接修改训练完成后的模型权重，即直接修改神经网络计算时使用的数字。

所谓权重，我们可以把它理解为神经网络模型里大量可调节的旋钮，每个旋钮都是一个数值，这些数值的不同会决定数据在网络中传递时，会被放大、削弱，还是以其他方式参与计算。

而我们常听到的训练模型，很大程度上就是在根据海量的数据不断调整这些旋钮，好让它逐渐学会从输入产出正确的输出。

训练完成后，模型的知识、习惯和行为倾向，都以某种复杂方式编码在这些数值之中；一个模型可以拥有数百万、数十亿甚至更多权重。

普遍的认知里，大语言模型能参与到模型迭代的部分，只是局限在编写训练代码、调整超参数、优化提示词，甚至设计完整的训练流程等。但在这些工作中，高达千亿、万亿大参数的模型权重本身，仍然主要由优化算法负责更新。

现在，大模型优化的对象开始从「如何训练一个模型」，下沉到「模型本身由哪些数值构成」。权重空间编程实现了让通用大语言模型可以根据自然语言目标，直接读取和修改神经网络权重；在某些实验中，模型甚至不需要环境反馈。

读懂权重之后，AI开始自己写权重

为了证明这种突破的合理性，研究团队首先测试大模型能否只通过权重，就理解一个神经网络究竟学会了什么。

在实验中，GPT-6 Astra能根据模型的原始权重，就推断出结构完全相同的几个小网络，分别对应的是专门为哪款游戏进行优化的模型，也能根据权重判断扩散模型会生成圆形、方形还是三角形。

面对几个小型语言模型，它还能仅根据中间层权重就判断训练语料属于Python、英文还是日文罗马字，并找出负责复制前文的注意力头。

证明大模型可以读懂权重之后，研究团队继续测试是否能「写」，即修改权重。

研究团队用强化学习算法PPO训练小车控制网络，跑了约10亿步。结果，小车直接往坡上开，却卡在那里；在256局检查中，一次也没成功。

Astra收到了网络权重、场景和输入输出的说明，以及一次失败过程的记录。它在一次回复里提交参数补丁，只是修改了3.5%的权重，为网络加入「先后退蓄力，再全速前进」的控制路径，使成功率从0提升至100%。

在另一组实验中，Astra根据游戏规则和网络结构，从零生成游戏网络的权重。这些没有经历训练的网络，在三个MinAtar游戏中都超过了训练1亿步的PPO网络。在9×9围棋任务中，经过有限的前向测试和修改，生成网络还超过了同规模、经过2000万局训练的PPO网络。

这些结果指向一个颇具想象力的可能性：大模型或许可以把自然语言中的规则和策略，直接「编译」为神经网络。

只改0.016%参数，数学成绩涨了40个百分点

真正让这项研究出圈的，是对Qwen3.5-0.8B的修改。

前面那些小游戏的小模型都可以把权重转成文本，然后交给GPT-6 Astra处理，但一个8亿参数没法像直接塞进上下文。研究人员给Astra一个可以读取和修改权重的Python环境，以及GSM8K、MATH训练集中的练习题和答案，要求让这个小模型更擅长数学。

它可以借助Python分析权重，能通过专用工具测试模型，也能查看模型运行时的隐藏状态、神经元激活和注意力信息，但不能使用梯度信息或开展训练。

Astra最终发现，模型的大量回答陷入了重复推理。在最初检查的96个练习答案中，有85个一直生成到32768个token的上限，仍然没有给出最终答案。GPT-6 Astra将这一问题定位到部分MLP层写出的一个特定方向，并通过删除这个方向来抑制循环。

在允许50次前向测试的设置下，修改后的模型不仅数学成绩提高，MATH-500从7.9%升到48.1%，GSM8K从13.8%升到67.1%。

连IFEval指令遵循成绩也从21.0%上升至62.3%；在MATH-500上触及token上限的回答比例，则从93.0%降至33.1%。整个修改只涉及131072个参数。

不过，研究团队也做了相应的补充实验。对于很少出现推理循环的Gemma 3 270M，Astra的修改没有带来明确提升。其MATH-500基线成绩为6.8%，经过50次前向测试后的版本为7.0%。

研究博客最后提到，Astra主要移除了妨碍模型完成回答的障碍，而不是向模型注入了新的数学知识，不太能实现添加模型原本就不具备的能力。

能力大幅提升，还是修好了一个Bug？

在X上，许多讨论将这项研究概括为「让AI直接修复AI」。如果这种方法足够可靠，未来开发者或许不必为每个模型缺陷重新收集数据和微调，只需让更强的模型检查权重、找到故障并进行局部修复。

有网友发帖称，自己已经复现了博客中的结果，并认为这是一种刚在最新一代模型中出现的「阶跃式能力」。

还有网友说自己的团队做过类似实验，发现Claude模型也能从零写出完整、可运行的神经网络权重。

而质疑的声音主要来自于部分网友认为提分主要与减少循环有关，Astra使用的思路与已有的激活引导方法相近，并且提供给Astra的长提示词已经明显暗示了循环问题，并引导它寻找能够修复问题的神经元。

有人提出首先应该测试一个简单的对照：直接关闭Qwen的思考模式，能否取得类似提升？

如果调整推理设置就能大幅减少循环，那么权重编辑究竟带来了多少额外价值，就需要重新评估。其次，这种方法还应与正常梯度训练进行比较，而不只是与一个表现很差的原始模型比较。

关于读写权重的争议，也是另一个争议点。普林斯顿大学博士生Xingyu Dang在运行一项Writing Weights Index测试后报告，开源模型在这类任务上表现困难。这也意味着，读写权重可能主要是最新前沿模型刚刚展现的能力，而不是所有大语言模型都已经具备的通用技能。

原博客本身也记录了一项重要的失败，在识别「谄媚模型」的实验中，Astra仅比较权重时无法作出判断，直到被允许观察模型在特定文本上的注意力模式，才识别出差异。这说明「直接读懂权重」目前仍不是稳定、通用的能力。

人人都能发布大模型

这项工作并没有让我改变对老派机制可解释性能走多远的判断，它改变的是我对大模型有多擅长这件事的判断。

过去，研究人员想要改变一个模型的行为，通常需要准备数据、设计训练方法，再通过优化算法更新权重。现在，GPT-6 Astra展示了另一种可能：让大模型根据任务目标，分析神经网络内部的参数，并尝试直接修改它们。

当然，距离真正把这种方法用到实际的模型开发中，还有不少问题需要解决。

这次Astra成功修复了Qwen的推理循环，却没能明显改善Gemma的数学表现。它能否稳定适用于不同模型和任务？与关闭思考模式、常规微调相比，究竟有多大优势？更重要的是，它能否让模型获得原本不具备的能力，还是只能修复已有能力发挥过程中的问题？

但是当神经网络的权重本身，也可能成为大模型可以直接操作的编程对象时；未来，我们或许只需要描述希望模型具备什么行为，AI就尝试把这些要求转化为具体的参数修改。