webAI发布TwIL-8B推理模型,MATH-500得分98.2
来源标题:webAI Releases TwIL-8B, an 8.8B Reasoning Model Scoring 98.2 on MATH-500
webAI发布8.8B推理模型TwIL-8B,基于IBM Granite 4.2 8B后训练,MATH-500得分98.2、LiveCodeBench得分81.6,但在知识类基准上落后于同尺寸模型。该模型权重以非商业许可发布在Hugging Face,4位量化版仅4.98 GiB,可在CPU或小显存GPU上运行。
以下正文由 AI 翻译自 MarkTechPost(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
webAI 发布了 TwIL-8B,这是一个 8.8B 的推理模型,面向数学、代码和指令遵循任务。TwIL-8B 推理模型基于 IBM 的 Granite 4.2 8B 进行后训练。权重已在 Hugging Face 上以非商业许可证发布。webAI 的发布文章将宣传重点放在每任务成本上,而非原始规模。4-bit 版本大小为 4.98 GiB,适合 CPU 或显存较小的 GPU 推理。
摘要
- 规模:8.79B 参数,稠密模型。131,072 token 上下文,继承自基座模型。
- 运行环境:通过 4.98 GiB 的 Q4_K_M GGUF 在 CPU 或显存较小的 GPU 上运行。完整 bf16 权重为 16.38 GiB。
- 性能:在数学和代码方面领先同规模模型,在知识类基准上落后。
- 最佳:MATH-500 得分 98.2,是 webAI 对比中的最高分。
- 最差:GPQA Diamond 得分 70.2,落后 Qwen3.5-9B 11.5 分。HLE 为 12.6(verbose 变体)。
TwIL-8B 是什么?
TwIL-8B 是 webAI 推出的稠密 decoder-only 推理模型。它有 40 层,隐藏维度 4096,32 个注意力头、8 个 KV 头。输入和输出仅支持英文文本。模型在每次回答前会先写一段内容。 它有两个变体,架构和 tokenizer 相同。Balanced 是默认版本,推理链更短。Verbose 推理更长,面向高难度竞赛类题目。 TwIL-8B 扩展了 webAI 的 TwIL 系列。该系列首批成员是 2026 年 8 月发布的 1.7B 和 3B 形式逻辑模型。
TwIL-8B 是如何训练的?
webAI 使用了 3 个后训练阶段:
- 在数学、STEM 和指令遵循的推理轨迹上进行全参数 SFT。
- 在数学、代码、STEM 和指令提示上进行 GRPO/DAPO 强化学习。这一阶段产出 verbose 变体。
- 带长度感知的强化学习,奖励函数偏向更短的推理链,并以各领域的长度参考值为基准。这一阶段产出 balanced 变体。 训练数据池使用 13-gram 匹配对 AIME、HMMT、MATH-500、GPQA 及其他评测集做了去污染处理。
TwIL-8B 在基准测试上表现如何?
TwIL-8B 的所有分数均为自报,高投入 pass@1,启用思考模式。标有 † 的分数仅在 verbose 变体上测得。
- 数学:TwIL-8B 在 MATH-500 上得分 98.2。Qwen3.5-9B 在第三方排行榜上列出 96.6。Gemma 4 31B 在 Red Hat 的 lighteval 运行中得分 87.9。在 AIME 2025 上,TwIL-8B 为 88.3,Gemma 4 31B 为 87.1。在 AIME 2026 上它得分 88.3,落后于 Qwen3.5-9B 的 92.5 和 Gemma 4 31B 的 89.2。
- 代码:LiveCodeBench† 为 81.6,Qwen3.5-9B 为 65.6,Gemma 4 31B 为 80.0。webAI 指出其 LiveCodeBench 版本未记录。竞品分数为 v6。
- 指令遵循:IFBench† 为 74.4,比 Qwen3.5-9B 的 64.5 高 9.9 分。IFEval 持平,91.8 对 91.5。
- 知识:这是弱项。GPQA Diamond 为 70.2,Qwen3.5-9B 为 81.7,Gemma 4 31B 为 84.3。MMLU-Pro† 为 76.5,Qwen3.5-9B 为 82.5。 在 13 个共同基准上,TwIL-8B 对 Qwen3.5-9B 的战绩为 7 胜 6 负。对约为其 3.5 倍规模的 Gemma 4 31B,战绩为 3 胜 11 负。
TwIL-8B 使用的推理 token 更少吗?
是的,相比最接近的开源同类模型。在 AIME 2026 上,TwIL-8B 平均每题输出约 19.5k token。Qwen3.5-9B 使用 31.2k,因此 TwIL-8B 少用 38%。它的得分低 4.2 分。在 HMMT 2026 年 2 月赛上,差距为 32.9k 对 40.6k,即少 19%。 前沿模型仍然精简得多。webAI 引用 GPT-5.5 在 AIME 2026 每题约 5k token。webAI 表示各 harness 和 tokenizer 不同,因此这只能作为方向性参考。
TwIL-8B vs Qwen3.5-9B vs Gemma 4
指标TwIL-8BQwen3.5-9BGemma 4 12BGemma 4 31B 参数8.79B 稠密9B(语言模型)11.95B 稠密30.7B 稠密 上下文131,072262,144 原生256K256K 模态(输入)文本文本、图像、视频文本、图像、音频文本、图像 许可证webAI Non-Commercial 1.0Apache 2.0Apache 2.0Apache 2.0 最小官方本地构建4.98 GiB(Q4_K_M)未披露未披露未披露 MATH-50098.296.6(第三方)未披露87.9(Red Hat) AIME 202688.392.5(MathArena)77.589.2 LiveCodeBench81.6 †65.6(v6)72.0(v6)80.0(v6) GPQA Diamond70.281.778.884.3 MMLU-Pro76.5 †82.577.285.2 TwIL-8B 数据来自模型卡。† = verbose 变体。除标注外,所有分数均由各厂商自报。
如何在本地运行 TwIL-8B?
from_pretrained("webAI-Official/TwIL-8B") 加载 balanced 变体。传入 subfolder="verbose" 加载 verbose 变体。模型卡列出了 llama.cpp 的 GGUF 构建:
- Q4_K_M,4.98 GiB,两个变体均可用
- Q8_0,8.70 GiB,仅 verbose
- F16,16.38 GiB,仅 verbose 给它较大的生成预算。模型卡示例设置了 max_new_tokens=32768。预算过短会截断推理,分数会差很多。所有报告的分数均使用 bf16 权重,因此 Q4_K_M 下预计会有小幅下降。目前 Hugging Face 上还没有托管推理服务商提供该模型。
要点
- TwIL-8B 是一个 8.79B 稠密推理模型,基于 IBM Granite 4.2 8B 后训练。
- 它在 MATH-500 上得分 98.2,LiveCodeBench 上得分 81.6†。
- 在 AIME 2026 上,它比 Qwen3.5-9B 少用 38% 的 token。
- 知识能力较弱:GPQA Diamond 落后 Qwen3.5-9B 11.5 分。
- 权重开放,但仅限非商业使用许可。 在 Hugging Face 上查看模型卡和权重,以及 webAI 在 X 上的公告。也欢迎在 Twitter 上关注我们,别忘了加入我们 15 万+ 的 ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。 需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布、网络研讨会等?联系我们。 文章 webAI Releases TwIL-8B, an 8.8B Reasoning Model Scoring 98.2 on MATH-500 首发于 MarkTechPost。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。