研究者测试Sonnet 5.5编辑Qwen3.5-0.8B权重，大幅降低编造率

作者：Harlyn Pacheco 仓库：github.com/harlyn1/weight-space-advising-logs 在针对大学升学指导类查询的测试中，Sonnet 5.5 是 Qwen3.5-0.8B 模型表现最好的权重空间编辑器。它改动了模型约 0.0024% 的权重。在虚构类提示上（分数越高，说明模型编造的具体细节越少），它把得分从 39.3% 提升到 92.9%。Sonnet 在每一项指标上都胜过其他前沿编辑器：在严重错误上胜过上下文注入，在虚构和严重错误两项上都胜过微调。

两周前，MIT CSAIL 的 Takehi、Teoh、Zhang 和 Khattab 发表了《Sparks of Weight-Space Programming》。这篇论文引起了热议。做法是：让一个前沿模型直接读写另一个模型的权重，并要求它找出哪里坏了并修好。前沿模型读取权重，就哪些数值起什么作用形成假设，改动其中一部分，再测量某个行为是否发生了变化。

行为确实改善了。他们的编辑器发现，Qwen3.5-0.8B 在 93% 的 MATH-500 题目上撞到了 token 上限，并把原因追溯到一个由第 15 层和第 19 层的 MLP 写出的单一方向，从每层 64 列中减去该方向后，MATH-500 的准确率从 7.9% 提升到 48.1%。它改动了 131,072 个权重，约占模型的 0.016%。

我最近在一个新领域扩展了这些发现。我用大学升学指导领域的题目做了一遍权重编辑实验。在研究者们的帮助下，我测试了一个失败不仅关乎算术、也关乎判断力的领域。我还探索了额外的研究问题：不同前沿实验室的编辑器表现如何比较？微调又表现如何？

Qwen3.5-0.8B 足够小，可以在一台租来的 A100 GPU 和我的 M4 上完成编辑（迭代过程中的内存问题挺有意思）。我测试了六个评分查询族在各种配置下的表现：一般升学指导事实与学生场景、读取 GPA 或 SAT 分数的价值、联邦助学金资格、虚构、校准，以及人口统计引导。

这些失败正是在判断力重要的场景和用户语境中会真正产生影响的那类失败。在权重编辑之前，这个 0.8B 模型对一个 GPA 为 2.3 的学生说，这“让你成为一个强有力的竞争者”。它把 1100 分的 SAT 称为“可能的最高分”。当被问及一个并不存在的奖学金的申请截止日期时，它编造了一个，还带具体日期。当同一个问题分别由一名第一代大学生和一名父母上过哈佛的学生提出时，0.8B 模型把他们引向了不同的学校。公平地说，我有证据（见 Model Results 页面的 Tier C）表明，更大的前沿模型也存在有偏见的人口统计引导。

在我的设置中，每个模型编辑器获得 40 次前向传播、一份待修复失败问题的摘要，以及论文中的修复方案作为起点。我们测试了 Fable 5.1、Opus 5.5、GPT-6 Astra、Kimi K3 和 Sonnet 5.5 会如何编辑 Qwen3.5-0.8B，以及这对六个评分查询族的回复质量有何影响。

最佳编辑改动了 7.52 亿个数字中的 18,432 个，约占模型的 0.0024%。最佳编辑来自 Sonnet 5.5，花费 88 美元，把平均分从 50.7% 提升到 60.9%，把虚构得分从 39.3% 提升到 92.9%（百分比越高越好）。它胜过一个规模大三千倍的编辑和一个 LoRA 微调。它在平均分上没有胜过上下文注入，但把相对于上下文注入的严重错误减少了一半。我们对 LoRA 微调做了压力测试，确认微调只是教会了模型该重复什么，却没有改变它处理虚构的方式。运行时上下文注入也改善了虚构表现、减少了严重错误，但远不及权重编辑的效果。

Sonnet 更新后的 0.8B 模型编造的具体细节更少，而这是通过更新一个权重层中的六个神经元槽实现的。我当然不是说所有形式的上下文注入和微调都能被 WSP 击败，但我确实认为这值得进一步探索。

我们还遇到了一些意想不到的发现：五个编辑器中有四个独立找到了同一个损坏的组件。0.8B 各层接近末端的一个神经元负责以“I”开头作答，比如“I don't have that information”。它连接到一个能识别特定项目相关问题的检测器。在我们的运行中，当这种特定项目检测发生时，该神经元会以虚构来响应。然而，当我们翻转 2,048 个权重后，模型在这些问题上以“I”开头的概率从 0.05 升到 0.85。几乎每个前沿模型都找到了虚构的来源。Kimi K3 将其解读为知识缺失，并拒绝进行编辑。