麻省理工学院计算机科学与人工智能实验室（MIT CSAIL）近期发布研究《权重空间编程的火花》，提出“权重空间编程”概念。面对小规模神经网络的原始权重，GPT-6 Astra 无需梯度下降或训练循环，仅凭对权重计算逻辑的推理，即可从零编写权重并击败经 1 亿步 PPO 训练的模型。在另一项实验中，Astra 仅修改 Qwen3.5-0.8B 模型 0.016% 的权重，便使其在 MATH-500 测试集上的准确率从 7.9% 跃升至 48.1%。
破解“思维死循环”
小型推理模型常陷入“思维死循环”，即不断重复相同内容而无法得出结论。Qwen3.5-0.8B 基座模型在 MATH-500 测试中，93% 的回答因触发 Token 限制而失败。Astra 的权重编辑有效修复了这一缺陷，使 IFEval 指令遵循得分从 21% 提升至 62%，触发 Token 限制的比例降至 33.1%。但在极少出现循环的 Gemma 3 270M 模型上，该方法并未显著提升数学能力，表明权重编辑旨在移除能力障碍，而非赋予模型原本缺乏的能力。
从试错到线性规划
Astra 的修复过程实质上是求解一个线性规划问题。Transformer 的残差流在模型陷入循环时会朝特定方向偏移。Astra 通过对比循环文本与有效文本的残差流，确定“循环方向”向量 $u$，并通过编辑 MLP 层的权重矩阵列，使其产生的推力偏离该方向。
原始过程中，Astra 耗费约 8 小时和 28 次前向传播进行试错，以确定修改哪些权重及幅度。分析显示，这一搜索过程可被建模为线性规划：寻找一个稀疏向量 $v$，在最小化对有效 Token 干扰的同时，最大化对循环 Token 的偏离推力。通过开发基于 GPU 的 PDHG 求解器，该过程可在约一分钟内达到最优解的 99.8%，且所需修改的权重数量减少 8 倍。
控制向量等效性
实验结果表明，线性规划编辑与 Astra 的试错结果在性能上相当，但效率显著更高。使用 Astra 确定的方向时，线性规划在 GSM8K 和 MATH-500 基准测试中表现持平，同时改变的权重从 130,188 个降至 16,291 个。即便使用不涉及大语言模型的启发式方向，也能恢复约 93% 的修复效果。
进一步分析发现，由于编辑主要在激活状态稳定的列上进行，其效果近似于在残差流中添加恒定的“控制向量”。以 1 倍强度添加该控制向量，即可在无需修改权重的情况下恢复几乎全部的修复效果。这揭示了此类权重编辑的本质：通过线性规划确定最佳 steering vector，并以权重修改或推理时注入的方式实施。
局限与展望
当前方法仍依赖 Astra 选择编辑层级，且主要针对消除循环行为。对于其他可通过单一方向引导的行为（如拒绝回答），是否同样适用线性规划构建权重，仍需进一步验证。此外，如何在不借助智能体的情况下自动选择编辑层级，仍是待解决的开放问题。