
研究团队用权重空间编程将 Qwen3.5 改造为顶尖吃豆人决策模型
来源标题:Weight-space programming: editing Qwen3.5 into a top Pac-Man decision model
通过直接改写权重而非梯度下降训练,名为 Jevlar 的吃豆人决策模型被编辑进 Qwen3.5,100 局得分从 1327 提升到 3604,登上 Opper 的 JevMan 排行榜首位。该方法根据记录的激活值计算每处权重改动,模型在路口和幽灵逼近时直接输出选项概率,不生成、不推理,实时作答。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Weight-space programming:把 Qwen3.5 编辑成顶级吃豆人决策模型 Weight-space programming:把 Qwen3.5 编辑成顶级吃豆人决策模型
作者:Mattias Lundell - 2026年6月11日
Weight-space programming 的意思是,直接改写模型的权重来改变它的行为,每一次改动都根据记录下来的激活值计算得出,而不是通过梯度下降学习得到。下面就是一次真正的实践:Jevlar,发音像瑞典语里的 jävlar [yev-lar],也就是鬼抓走你最后一条命时你会喊的那个词。它是一个被编辑进 Qwen3.5 的吃豆人决策模型,首次得分 1327,在 100 局游戏中提升到 3604,登上了 Opper 的 JevMan 排行榜榜首。
JevMan 是 Opper 为决策模型设立的吃豆人基准:这类模型在一次前向传播中回答一道多选题,靠反射而非推理,并且要实时完成。游戏在每个路口都会发送一个状态和一个问题(“上、左还是右?”),每当有鬼从走廊尽头下来时也会如此(“继续走还是往回拐?”)。模型返回各个选项上的概率,游戏按概率抽一个并继续。没有生成,没有思维链,答晚了就等于答错:吃豆人站在路口不动,鬼可不会停。
Jevlar 是我们的参赛作品,构建时借用了 Sparks of Weight-Space Programming 实验的规则。不用梯度下降,也就是人们通常所说的训练。模型的输入层和输出层保持不动,也不使用整体缩放某个矩阵之类的取巧手段。每一次编辑都在一步之内根据记录下来的激活值计算得出,并写入权重:告诉一个注意力头该看哪里,告诉一个神经元该写什么数,把一个线性读出折叠进权重矩阵。
练习数据来自基准自带的模拟器,由它的贪心规则来玩,基准中的对局从不用于拟合。由于读出层是在模拟器局面上拟合的,这个参赛作品带有基准的“已训练”标签。
权重由两个编程 agent 在同一个人的指导下、在同一个代码检出中、按同一套规则编辑完成。Claude 的 Fable 5.1 构建了 Jevlar:电路、状态图、编辑并试玩的循环,以及在模型旁边跑基准的 Modal 容器。OpenAI 的 Codex agent,Astra,在同一个代码树里用自己的 notebook 跑了一个竞争版本:用岭回归拟合的最后一层校正(2111)、四个专家模型的混合,每个对应一种游戏局面(2304)、关于 thinking token 和全棋盘视野的实验,最后还以三种答题速度重放了我们的几组权重。
两者在笔记本上共用一把 GPU 锁,所以它们的运行从不会重叠;在 Modal 上则规定每个容器只跑一次,因为两次并发运行曾把彼此拖慢到每个答案 540 ms;此外还规定各自只提交自己的路径。它们通过阅读彼此的 notebook 来交流,而不是直接对话;两者之间的聊天中继试了一天就被放弃了。想法是双向流动的:Astra 的读出校正成了 Jevlar 的最后一层,并在 4B 上重新拟合;而 Fable 关于速度的发现让 Astra 去重放 hc1 并加入延迟,这就是为什么它对我们那组权重的对照运行被计入了汇总数字。
人类在回路中设定预算和方向:坚持用小模型,在它停滞时尝试一些激进的做法,弄清楚我们是不是因为太慢而死,跑那 100 局。编辑运行在笔记本上,一台 M3 Max,4B 模型每个局面 0.4 秒。对局在 Modal 容器里跑,用 A10G 和 H100,总共约 50 美元的 GPU 费用。
目标是排行榜榜首:贪心规则 4450,Typesafe 的 jev 1.14 是 3597,训练过的 ModernBERT-jev 是 3180,它的上一版 jev 1.13 是 2750。贪心规则是那个手写的搜索,它也负责玩练习对局,所以它既是老师又是天花板。
基础模型的起点远低于此。Qwen3.5-0.8B 加上我们最初编辑的四个注意力头,得分 1327,未编辑的 2B 是 1277。未编辑的 4B 在 prompt 把标记为危险的选项列在前面时,得分 2148 到 2201,这已经超过我们手上所有编辑过的 0.8B 版本。本文中每个分数除非另有说明,都是 24 局的平均值,而同一组权重的 24 局均值每次运行会浮动约 450,所以能汇总的地方就用汇总后的运行结果来讲故事。
lab notebooks · 24 局均值,除了快速服务(120 局汇总)和 100 局运行
前三步是 0.8B:四个编辑过的注意力头,读取危险选项(v1);第一个猎鬼电路(v3)及其覆盖上限(v5c)。然后是一个平台期:我们给 0.8B 加的所有东西都落在 1800 到 2150 之间。激进的一步是在 prompt 里把危险选项列在前面,这让 4B 基础模型在完全不做编辑的情况下达到了 2175。把猎鬼电路移植到 4B,重新拟合方案而不是复制权重,得到 2750;重新拟合的读出校正得到 2911;在 100 ms 以内提供服务,汇总约 3300;100 局运行得到 3604。0.8B 自己在 v7 下后来跳到 3110 的故事下面再讲。
Jevlar 改动了 Qwen3.5-4B 权重的 0.69%,分四处,每一处改动都是计算出来的,不是训练出来的。
Jevlar 的猎鬼电路在 Qwen3.5-4B 上 · 5 处编辑,2 个位置
上面一行在 prompt 的每个数字上运行,在每个受惊的鬼身后留下一个带标记、带符号的可达值;下面一行只在给出答案时运行一次,把最好的可达值变成一个方向。
所有东西都以未改动的基座模型加上一个小文件的形式发布,文件里是编辑过的权重,在启动时加载。0.8B 的编辑遵循同样的模式,位于第 11、15 和 22 层。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。