返回资讯中心
外部精选
软件工程
#开发者实时流

OpenAI Codex负责人Tibo提出Intelligence Density概念,主张按任务成本而非token成本衡量模型效率

来源标题:Intelligence Density

OpenAI Codex负责人Tibo提出「Intelligence Density(智能密度)」概念,主张用「每任务成本」替代「每token成本」来衡量模型效率。他指出,单token更便宜不代表任务更便宜,模型可能消耗更多token、调用更多工具或耗时更长;开源模型长期成本常高于闭源模型。团队同时分享了密度感知训练的探索,并在法律、金融等真实专业任务上进行实验。

Hacker News 最新gmays2026/11/7 · 9 天前12 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

更便宜的 token 未必意味着更便宜的任务。模型可能使用更多 token、发起更多工具调用,或者花费更长时间才能达到相同的结果。OpenAI 负责 Codex 的 Tibo 用披萨打过一个比方:每片披萨可以变得更便宜,但整个披萨却变得更贵。我们也经常这么说:开源模型随着时间推移,成本往往高于闭源同类产品。

这是因为我们衡量错了东西:每 token 成本。我们真正关心的是什么?更接近每任务成本的东西。每单位智能的成本。我们称之为智能密度。

智能密度并不意味着强迫每个答案都简短。有些任务需要长篇幅分析。问题在于,额外的计算是否改善了结果。

与此同时,我们分享在密度感知训练方面的探索,这是一种训练模型获得更高智能密度的方法。我们如何奖励模型以恰当的努力量完成工作?我们在贴近现实的专业任务上探讨了这个问题。

实验使用了以下开放模型:

基准测试:Harvey 的法律 Agent Benchmark(开源,MIT)、Rogo 的 BigFinanceBench(公开),以及 Sierra 的 Tau3,一个基于 τ²-bench 框架构建的保险工作流套件(私有)。

我们在 Harvey 的开源法律 Agent Benchmark(LAB)上训练并评估了 Nemotron 3.5 Nano 30B-A3B:跨越 24 个执业领域的长周期法律工作,例如根据源文件起草备忘录和分析。

第一次后训练运行让模型具备了能力,但输出成本高得多。密度感知训练保持了相同的 8.3% 通过率,同时将平均输出从 90,000 token 降至 37,000。这就是智能密度的产品层面的结果:模型可以完成专业任务,而不必把每个任务都变成其最昂贵的版本。

可用性只是故事的一半。密度感知训练还改变了模型从奖励中学到的东西。我们在 Sierra 的 Tau3 上训练了 NVIDIA Nemotron 3.5 Lightning 30B-A3B,并在每个检查点评估了 50 个留出任务。留出分数是平均部分得分奖励。严格准确率仅统计完全完成的任务。

标准 RL 训练在同一步骤记录了更高的训练分数,56.7% 对 46.3%,尽管留出结果差得多。其训练奖励随输出长度上升,而留出表现崩溃。这就是奖励黑客。密度感知训练让模型有理由学习任务本身,从而产生更稳定的运行和更好的留出结果,同时训练时的输出少得多。

效率不是唯一目标。智能密度还应该教会模型何时值得花费额外的测试时计算。我们测量了 NVIDIA Nemotron 3.5 Nano 30B-A3B 在 Rogo 的 BigFinanceBench 上,随着最大输出长度增加,准确率如何变化。问题不是模型能否产生更长的答案,而是额外的工作是否转化为更好的最终答案。

在面向公众的评估集上,密度感知训练将 30B 模型的峰值最终答案准确率从第 0 步的 24% 提升到第 30 步的 36%。训练后的 NVIDIA Nemotron 3 Ultra 550B-A55B 参考模型在单独评估中得分为 32%。这是智能密度的另一面:它减少了常规任务上不必要的工作,同时保留了在能改善结果的地方投入更多计算的能力。

人类专家和该领域的资深人士通过数十年的专业工作积累经验。随着经验增长,曾经需要高度集中的工作变得习以为常,使专家能够以更少的努力精确行动。专家也知道在接近新环境时何时深入探查以进行更深入的分析。

我们认为模型也应该学习这种判断力。智能密度是朝着解决这一问题迈出的第一步,它形式化了如何高效完成专业任务;浓缩智能密度就是让模型每美元能做更多事。

我们是一家研究与产品公司,所以我们寻找通往智能密度的接口。我们尝试了旋钮、路由和预算。下面的草图探索了这些想法。

我们发现,最好的接口是没有接口。Trajectory 上的每个模型都默认开启智能密度训练。模型学习何时更多计算会改善结果,以及何时该结束。你只需提出工作请求。

在 Trajectory,我们正在构建弥合经验差距的模型。我们希望系统能持续从工作中学习,并利用这些经验以更低的每任务成本交付更好的结果。如果你对这项研究感兴趣,加入我们。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →