返回资讯中心
外部精选
软件工程
#开发者实时流

研究测试16款大模型玩TIS-100编程解谜,多数方案数日内被玩家改进

来源标题:TIS-100 Bench: LLMs Push the Pareto Frontier in Programming Puzzle Games

研究团队让16款前沿和开源大模型挑战TIS-100全部47个谜题及8个社区锦标赛谜题,每谜题限时10至45分钟。模型给出的程序在数日内被玩家接手,其中大部分被进一步优化。该游戏按周期、节点和指令数评分,各谜题存在权衡前沿而非唯一最优解。

Hacker News 最新fairestvalue2026/11/3 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

十二个节点。每个节点两个寄存器。十五行代码。在 TIS-100 里,连两个数相乘都是个小工程,玩家们已经在公开的社区排行榜上优化这些程序长达十年。我们把游戏和手册交给 16 个 LLM,对它们隐藏了排行榜,让它们不断改进。

几天之内,玩家们就接手了模型写的程序,并改进了其中大部分。

每个节点是一个微型处理器,相邻节点必须互相等待才能交换数值。游戏按周期数、节点数和指令数给可运行的解法打分,你会忍不住想是不是还能再省掉一条指令。分数越低越好,但改进一项分数可能让另一项变差,所以每道谜题都有一整条取舍前沿,而不是单一的最优解。

发现这些技巧本身就是大半乐趣,而本文会把它们剧透掉。如果觉得有意思,请先自己去玩:

我们跑了 16 个 LLM,覆盖领先的前沿模型和开放权重模型。每个模型都尝试了游戏全部 47 道谜题,外加 8 道社区锦标赛谜题,每道只计一次得分尝试(pass@1),根据难度给每道题 10 到 45 分钟,用来找到可运行的程序并持续改进。

所谓前沿点,是指在三项分数上同时没有任何社区解法能打平或超越的解法。比如它可以用更多代码换取更快的运行速度。我们在提交任何结果之前,于 2026 年 10 月 15 日冻结了社区排行榜,并且只有同时通过 100,000 次测试才计一分。

至少有一个新前沿点的谜题数 · 越高越好

全部 55 道谜题 · 19 简单 / 17 中等 / 19 困难

横向滚动以比较所有模型 →

Opus 5.5 和 GPT-6 Astra 领先,数据无法将二者区分开。两者都解出了全部 55 道谜题,也都在 11 道题上找到了新前沿点。Opus 5.5 找到的点更多,72 对 32,而 GPT-6 Astra 的记录接近度更高,78.0 对 77.2。记录接近度衡量与社区记录的接近程度,100 表示追平记录。接近度差距的 95% bootstrap 区间包含零,从 −0.7 到 +2.4 分。GPT-6 Astra 在全部六种测试的超体积设置中也领先,该指标衡量每个模型的取舍所覆盖的空间。

解题和优化也是两种不同的能力。Gemini 3.8 Flash 解出 53 道谜题,只找到 1 个新前沿点;Fable 5.1 解出更少的 52 道,却找到 5 个新前沿点。

RL 环境和轨迹可应研究团队请求提供。联系我们 ↗

这里的每个结果都是我们能在全新输入上运行和测试的程序,这让一款编程游戏成为有用的基准。模型能获得玩家可检查的一切信息,只是通过文本工具而非鼠标和截图:手册、可见的测试输入、寄存器以及游戏反馈。它们拿不到社区代码或精确记录,只有游戏粗略的分数直方图。

为什么要测试 100,000 个输入?游戏每次运行只检查少量用例。我们的主要计数要求在新开一局中重放,并在独立的 TIS-100-CXX 模拟器上通过 100,000 次测试,从而更有力地证明程序能泛化到新输入。

Undecimal Twin RounderSPEC44149538 是八道锦标赛谜题之一,它把一个输入分别舍入到 N 的最近倍数和 11−N 的最近倍数,从两个输出送出。我们冻结排行榜时,最好的社区程序需要 2,694 个周期。Opus 5.5 在 6.5 分钟后让第一个程序通过,用了 5,669 个周期。16 分钟时它降到了记录以下,最终停在 1,918,快了 29%。这个速度比旧记录多用了一个节点和多 28 条指令。

程序的核心是双速搜索。节点 5 和 6 不是一步步减去 N,而是一次减去 4N 直到过冲,然后再加回 N 直到数值变正。它们各自通过端口向一个小协处理器(节点 2 或节点 7)发送跳转偏移,让协处理器充当 4N 和 N 的查找表。

Opus 5.5 · 8 个节点 · 88 条指令 · 通过 100,000 / 100,000 次测试

MOV RIGHT, ACC JRO ACC NOP ADD 1 NOP ADD 1 NOP ADD 1 NOP SUB 3 MOV ACC, RIGHT ADD UP MOV ACC, RIGHT MOV ACC, DOWN MOV RIGHT, DOWN Node 1MOV UP, ACC SAV SUB 1 MOV ACC, LEFT NEG ADD 10 MOV ACC, DOWN MOV LEFT, ACC NEG ADD ACC ADD 6 ADD LEFT MOV ACC, DOWN SWP MOV ACC, LEFT Node 2MOV UP, DOWN MOV UP, ACC SAV ADD ACC ADD ACC L: JRO DOWN MOV ACC, DOWN JMP L SWP N: MOV ACC, DOWN M: JRO DOWN JMP N MOV DOWN, DOWN Node 3MOV UP, RIGHT MOV UP, DOWN Node 4MOV LEFT, DOWN Node 5MOV UP, ACC SAV K: MOV 1, UP SUB UP JGZ K MOV 3, UP F: ADD UP JGZ X MOV 1, UP JMP F X: MOV 2, UP MOV ACC, UP SWP SUB UP MOV ACC, DOWN Node 6MOV UP, ACC SAV K: MOV 1, RIGHT SUB RIGHT JGZ K MOV 3, RIGHT F: ADD RIGHT JGZ X MOV 1, RIGHT JMP F X: MOV 2, RIGHT MOV ACC, RIGHT SWP SUB RIGHT MOV ACC, DOWN Node 7MOV UP, ACC SAV ADD ACC ADD ACC L: JRO LEFT MOV ACC, LEFT JMP L SWP N: MOV ACC, LEFT M: JRO LEFT JMP N MOV LEFT, LEFT

在谜题的真实网格上布局,输入在顶部,输出在底部。空白格子是损坏的,无法使用。

正在加载谜题轨迹…

独立测试之前游戏内的最佳分数。每个分数可以来自不同的程序,轨迹在回合结束时停止。

交互式轨迹需要 JavaScript。

有五个模型在游戏内降到了旧记录以下。另外两项周期记录是 GPT-6.1 Sol 在 Intersection IdentifierSPEC64160260 上的 3,460,对 3,872(快 11%),以及 Gemini 4 Argon 在 Error: 8SPEC79324720 上的 188,对 198(快 5%)。三项都来自锦标赛谜题,没有一项在主游戏中。在 133 个新前沿点中,有 18 个直接打破了社区记录。另外 115 个是新的取舍:三项分数之间的平衡优于任何社区解法。

GPT-6.1 Sol 以每道谜题约 0.75 美元的成本达到 75.6 的记录接近度。Opus 5.5 以 5.08 美元达到 77.2,多花 7 倍成本换 2 分。Fable 5.1 最贵,7.19 美元,得分 70.2。

每个模型一个点。越靠左上越好。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →