返回资讯中心
外部精选
软件工程
#开发者实时流

研究:让编码智能体在训练中重新设计神经网络架构

来源标题:Can LLMs redesign themselves as they train?

一项研究尝试让编码智能体在训练过程中接管包括架构在内的全部训练环节,初步迹象显示它们能边训练边重新设计神经网络,生成的架构形态相当陌生。研究针对当前 transformer 的四个基本局限分别做了实验,涉及长度泛化、多步组合任务和简单逻辑推理等问题。研究称规模扩大本身无法解决这些局限。

Hacker News 最新bilsbie2026/11/6 · 11 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

无论训练神经网络多久,只有它的权重会发生变化。其他所有组件——从优化器到数据混合比例再到架构——都保持不变。那么,如果我们让一切都变得可学习,包括架构本身呢?在这篇文章中,我们发现了早期迹象,表明编码智能体可以在训练过程中重新设计神经网络。由此产生的架构可能看起来相当异乎寻常。下面,我们报告四个实验的早期结果,每个实验都针对当今 transformer 的一个基本局限。

一切都不冻结

近期的工作已经让编码智能体能够端到端地运行研究项目、通宵调优训练代码、在训练过程中重写网络的更新规则 [Bai et al., 2026],甚至直接编辑权重 [Takehi et al., 2026]。我们只是问:为什么不干脆让它们一次性接管训练的每一个环节,甚至包括架构本身?

Transformer 有一些众所周知的局限。它们往往无法泛化到比训练时所见更长的输入,而仅靠扩大规模并不能解决这个问题 [Anil et al., 2022] [Delétang et al., 2023]。它们在需要多步推理的组合任务上表现不佳 [Dziri et al., 2023]。即便是简单的逻辑(比如从"A 是 B"推断出"B 是 A")也不可靠 [Berglund et al., 2023]。

其中一些局限可以追溯到梯度下降本身。梯度下降能极好地拟合统计数据,但它会满足于任何能最快降低损失的东西,往往只是那些仅在训练数据上成立的捷径 [Geirhos et al., 2020]。它找到的表征可能是碎片化的且相互纠缠的 [Kumar et al., 2025]。

代码的行为则不同。程序对每一个输入都应用相同的规则,无论见过还是没见过,因此它们在构造上就具有泛化能力。程序也很短。一个假设的描述越短,它泛化所需的样本就越少 [Blumer et al., 1987]——这一思想在最小描述长度原理中得到了形式化 [Rissanen, 1978] [Shalev-Shwartz and Ben-David, 2014]。

编码智能体可以弥补梯度下降的不足。当被置于训练循环内部时,智能体能够发现网络未能学会的东西,弄清原因,并从少量失败样本中写出精确的程序。这些程序作为新的层进入网络本身,我们称之为代码层。这种变化超出了梯度下降的能力范围,因为梯度下降以小步、连续的方式移动。规则可以用代码写出来,但隐藏在海量数据中的无数统计模式则不能。智能体仍然可以使用梯度下降来训练其他一切,包括对每个代码层的依赖程度。

为了决定哪里需要代码层以及它们应该计算什么,智能体需要一套全新的工具集,我们称之为机制性干预。与机制可解释性类似,这些工具读取网络的内部结构,但它们是在训练过程中这样做的,此时网络仍能适应智能体所做的更改。这些工具仍处于早期阶段。我们呼吁社区帮助开发它们。

四个实验分别是:

发现需求(nanochat)。我们引入了幽灵梯度——智能体发现的第一个机制性干预工具——并展示智能体如何使用它来找到语言模型需要帮助的地方。然后我们审视它编写的层,其中一层让网络能够利用自己近期的错误进行自我纠正。

进化是必需的(SWA)。将训练过程中生长出来的层与在开始时植入的相同层进行比较,表明时机很重要——这是一种新的训练动态。

锯齿状(CLRS-Text)。我们在 CLRS-Text 上训练一个 transformer,这是一个经典算法的基准测试。正常训练时,模型只能在训练中见过的规模上解决问题,在介于这些规模之间的大小上则会失败。训练过程中生长出来的代码层弥合了其中大部分差距。

闭环(DeepSeek)。DeepSeek-V4.1-Flash 充当自身的智能体。利用它设计的一个读取自身隐藏状态的代码层,它在不进行思考的情况下,将 AIME 2026 和 HMMT 2026 上的准确率从 64% 提升到 71%。

为避免过拟合,我们在每个实验中都将测试集对智能体保密。除此之外,智能体可以自由地提出想法、设计自己的实验和机制性干预工具,并插入代码层。下面我们详细描述每个实验。

Nanochat:语言模型在哪里需要帮助?

我们首先训练 nanochat [Karpathy, 2025],这是一个小型 ChatGPT 风格的语言模型。我们按常规方式训练它:下一 token 预测,使用普通的梯度下降。该网络是一个十二层 transformer,约 2.86 亿参数。

一个被带入训练循环的编码智能体,能帮助网络从相同数据中学到更多吗?换句话说,我们能提高样本效率吗?

我们再次训练同一个网络,这次在训练循环中放入一个编码智能体。设置完全相同(相同的数据、调度、步数和基于梯度的更新),不同之处在于,在它自己选择的检查点上,智能体被允许插入以代码编写的新层,即编辑架构本身。一旦插入某一层,普通训练就从该点继续,直到下一次插入。在这个实验的整个过程中,智能体一次一个地插入了三个代码层。每次插入后,损失都进一步低于普通训练,且这一差距一直保持到训练结束。智能体是如何决定插入什么、插入到哪里的?我们下面描述它的过程。

从机制可解释性到机制性干预

机制可解释性是一个年轻的领域,试图对一个已训练且冻结的神经网络进行逆向工程。它追问哪些内部组件承载哪些计算,以及它们如何组合以产生行为。它的工具,如探针 [Alain and Bengio, 2016]、消融和归因图 [Ameisen et al., 2025],常用于审计模型的安全性 [Marks et al., 2025]、引导行为以及理解其神经元学到了什么。

在我们的情形中,智能体把问题反了过来:网络未能学会什么,为什么,以及在网络仍在训练时可以向其中添加什么

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →