返回资讯中心
外部精选
软件工程
#开发者实时流

SemiAnalysis 发布 GDPx 智能体基准,最佳模型仅得 12 分

来源标题:GDPx agent benchmark: cost per point for 12 models, and the safety-filter caveat

SemiAnalysis 发布 GDPx 基准,覆盖 11 个高价值领域的 206 个长任务,最佳模型仅得 12 分。任务默认最长运行 8 小时,其中一个金融任务涉及约 2000 个文件的交易室。评测按 11 个领域等权平均,每项任务取 3 次尝试的成绩。

Hacker News 最新titusblair2026/11/5 · 今天7 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

SemiAnalysis 构建了 GDPx,涵盖 11 个专家领域的 206 个长周期 agent 任务,最佳模型得分仅为 12%。我们计算了每个模型每得一分需要付出多少成本,把 SemiAnalysis 自己提到的注意事项摆到台面上,并详细拆解了其中一个任务,用来说明评分有多严格。

SemiAnalysis 于 2026 年 11 月 2 日发布了 GDPx,这是一个面向高价值领域通用 agent 工作的 benchmark,覆盖芯片设计、网络安全、生物学、金融、法律、量化交易、递归自我改进、硬件设计、材料科学、对齐和软件工程。排行榜列出了来自 14 个数据合作方的 206 个任务。

任务默认最长运行 8 小时。其中一个金融任务会把 agent 放进一个约含 2,000 个文件的交易室。模型在有自有 harness 的情况下运行在自有 harness 中(例如 Claude Code 或 Codex),否则运行在 OpenCode 中。

头条分数对 11 个领域等权平均,领域内各合作方等权,每个任务按自身评分标准取 3 次尝试的结果。

SemiAnalysis 在每个分数旁列出了平均每任务成本。两者相除,就得到 GDPx 每一点的成本。以下数字由我们从排行榜计算得出;SemiAnalysis 并未发布这一列。

Muse Wonder Full 得分 9.0%,但没有公开价格,因此没有每点成本。

由此可以得出两种解读。如果你需要单一最佳结果,Opus 5.5 领先。如果你会跑多次尝试并保留最佳结果,Gemini 4 Carbon 能达到 Opus 分数的 91%,而每任务成本约为其三分之一;GPT 6.1 Sol 能达到其分数的 70%,成本不到五分之一。

在二元评分上,所有模型在金融领域都得了 0%。其中一个金融任务 Bellwood-QoE 在 25 次尝试中无人解出,最佳一次运行通过了 11 项检查中的 8 项。在法律领域,20 次 rollout 没有产生可用的合同红线修订,不过 Opus 5.5 的部分分平均为 44%,GPT-6 Astra 为 25%。

在硬件设计领域,12 次 rollout 中没有一次达到经验证的完整通过。在递归自我改进任务中,20 次 rollout 没有一次能可靠地找出损坏的 RL harness 的成因。

公开的量化任务 aapl-target-winsorization 要求 agent 在隐藏日期上击败一个参考交易策略。只有当每日利润的单侧配对 t 检验给出 p 小于 0.01 时,策略才得 1 分;p 大于 0.5 则得 0 分。当 agent 承担更多风险时,参考策略会按比例放大。

12 次运行中有 10 次在样本外赚到了超过参考策略的 $1,399,但只有 2 次达到 0.5 分。一次 Opus 5.5 运行以 1.3 倍风险赚到 $2,540,得分 0.23。一次 Grok 4.7 运行将其预测放大 1.15 倍,承担了 1.46 倍风险,得分 0。

对于任何在真实工作上运行 agent 的人来说,这才是有用的教训。跑赢一个数字,不等于在相同风险下稳定地跑赢它,而严格的评分器能分辨出差异,demo 却不能。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →