返回资讯中心
外部精选
软件工程
#开发者实时流

DSPy 发布 dspy-wsp 原型优化器,让大模型直接编辑其他模型权重

来源标题:Beating benchmarks by weight-space optimizing decision models with DSPy

DSPy 推出原型优化器 dspy-wsp,让前沿模型无需梯度和训练即可观察并编辑另一个模型的权重。实验中 GPT-6-Astra 仅改动 Qwen3.5-0.8B 0.016% 的权重,就将其 MATH-500 得分从 7.9% 提升到 48.1%。该优化器在 0.6B 至 9B 的五个开源决策模型上以 Typed Decisions 基准测试,单模型成本约 5 至 10 美元。

Hacker News 最新dbreunig2026/11/13 · 4 天前12 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

隆重推出 dspy-wsp,这是一个原型优化器,可让前沿模型观察并编辑另一个模型的权重。

上周,Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 展示了一种名为「权重空间编程」(Weight-Space Programming)的技术:前沿模型无需梯度、无需训练,就能直接编辑较小模型的权重。在一项实验中,GPT-6-Astra 编辑了 Qwen3.5-0.8B 中 0.016% 的权重,消除了一个循环问题,并将其 MATH-500 得分从 7.9% 提升到 48.1%。Haoze “Hector” He 将权重空间技术应用于决策模型,证明它在这方面同样有效。

这还只是早期探索,但能够互相进行「脑部手术」的模型,其潜力令人难以置信。

今天我们发布 dspy-wsp,这是一个原型 DSPy 优化器,将权重空间编程引入你现有的程序。WeightSpace 优化器可以运行 Rikiya 的 LLM 示例,但它在决策模型上表现最佳。

我们在 Typed Decisions 基准上,用五个开放的决策模型(0.6B 到 9B 参数)测试了 WeightSpace。对于每个模型,GPT-6-Astra 以最大推理强度完成了 25 次前向传递,花费约 5–10 美元。我们在每个编辑后的模型上,用 400 个优化过程中从未见过的测试用例进行了评分。

每个模型都有所提升:单独使用 WeightSpace 可增加 1.9 到 16.1 个百分点的准确率;与 ReAnchor(一个重新拟合每个问题决策阈值的 DSPy 优化器)结合使用时,可增加 6.5 到 20.0 个百分点。(在仓库中查看我们所有的分数。)

400 个留出测试用例 · writer gpt-6-astra,25 次前向传递 · 增益为配对比较,±0.7 到 1.4 个百分点标准误

每次 WeightSpace 运行都会将你模型的权重交给一个 writer LLM。writer 按轮次工作。每一轮都以简短说明开头,解释 writer 将尝试什么,随后是一段代码:一个 Python 块,在沙箱内核中读取或编辑权重;或者一个 forward 块,在练习示例上运行你的程序。前向传递来自固定预算,当预算用完时,writer 的最佳编辑就成为你的补丁。

dspy-wsp 与 DSPy 3.5 兼容。使用 pip 安装:

pip install dspy-wsp

WeightSpace 接受任何 DSPy 模块和任何 metric。你可以像使用其他任何 DSPy 优化器一样调用 compile,然后得到一个在编辑后权重上运行的模块。

import dspy from dspy_wsp import WeightSpace, load_decision_backend backend = load_decision_backend("d1") # d1-omni-600M optimizer = WeightSpace( metric=metric, writer_lm=dspy.LM( "openai/gpt-6-astra", model_type="responses", reasoning_effort="max", ), backend=backend, max_passes=25, holdout=0.25, run_dir="runs/triage", ) compiled = optimizer.compile( dspy.Predict(Triage), trainset=train, valset=test )

Save the edit

compiled.wsp_patch.write_checkpoint( backend.weights_dir, "edited-model/" )

编辑后的模型在你自己的硬件上运行。WeightSpace 将学生的权重加载到 Python 进程中,编译后的模块会调用该本地模型,替代托管 API。在搭载 Apple 芯片的 Mac 上,模型通过 MLX 在内置 GPU 上运行。在 Linux 上,模型通过 PyTorch 运行,如果有 NVIDIA GPU 则在其上运行。这些模型都很小:本文中的所有实验都在一台 Mac 上完成,2B 模型使用了约 6 GB 内存。

对于文本生成 LLM(每次传递需要许多长答案),WeightSpace 还可以在 NVIDIA GPU 上驱动 vLLM。完成后,你可以将编辑保存为一个小补丁,或写出完整 checkpoint,后者可以像任何其他模型一样提供服务。

以下是如何加载我们上面保存的编辑后模型:

import dspy from dspy_wsp import load_decision_backend from triage import Triage # your signature backend = load_decision_backend("edited-model/") program = dspy.Predict(Triage) program.set_lm(backend.lm()) result = program( ticket="My invoice shows a charge I don't recognize." )

试用并告诉我们效果如何

dspy-wsp 非常实验性。它支持多个推理后端,而我们只在少数环境和模型系列中测试过。文本生成 LLM 的编辑运行耗时长、成本高,而且可能无法产生令人信服的结果。我们还是决定发布它,以便你可以试验、修改和使用。告诉我们它在哪些场景有效、哪些无效,并将 issue 和 pull request 发送到仓库。

尽管如此,我们发现 dspy-wsp 在改进决策模型程序方面出奇地实用,并且它与 ReAnchor 的组合效果令我们印象深刻。

如果你有一台 Mac 或至少 4 GB 内存的 GPU,就可以在 d1-omni-600M 上运行权重空间优化。

感谢 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab,本研究建立在他们工作之上;感谢 Haoze “Hector” He 在决策模型编辑方面的早期工作;感谢 Michael Isaac 贡献了 GEPA 搜索选项。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →