
Thinking Machines 发布第二代模型 Inkling 2 Small
来源标题:Inkling 2 Small
Thinking Machines 推出第二代模型 Inkling 2 Small,这是一个总参数 594B、激活参数 17B 的混合专家模型,支持图像输入和可变推理强度。该模型在 Artificial Analysis 智能指数上得分 31,明显超过前代,在智能体编程、视觉、知识工作和推理方面均有提升。模型目前通过 Tinker 以闭权重方式提供,完整权重计划在外部安全测试完成后于下周以 Apache 2.0 许可证开放。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
今天我们推出第二代模型 Inkling 2 Small。这是一个 Mixture-of-Experts 模型,总参数 594B,激活参数 17B,支持图像输入和可变 effort。
Inkling 2 Small 在 Artificial Analysis Intelligence Index 上的得分达到 31,远超我们此前各代模型,反映出它在 agentic coding、视觉、知识工作和推理方面的性能提升。能力的提升来自训练流程每一步的改进,包括更高效的预训练和一次大规模统一的 RL 训练。
Inkling 2 Small 初期将通过 Tinker 提供,权重闭源,遵循我们在「通往开放权重的安全路径」中提出的做法。我们计划在下周完成外部安全测试和红队测试后,以 Apache 2.0 许可证开放完整权重。
你今天就可以在 Tinker Playground 上试用 Inkling 2 Small。该模型也可在 Tinker 上进行微调和采样;随着 Inkling 2 Small 权重的发布,checkpoint 将可供下载。
Inkling 2 Small 在各方面都比我们的第一代模型更强,尤其是在长周期自主工作方面。
Inkling 2 Small 的视觉和 agentic 能力使它能够利用视觉反馈,迭代构建和完善带有交互元素的网站、游戏和 3D 设计。
Inkling 2 Small 通过 RL 训练,覆盖数十万个长周期 coding 任务,横跨多种 agent harness 和上下文压缩策略。我们提升了合成 coding 数据管线的质量,并不再只依赖单元测试奖励;许多任务配有 agentic RL grader,评估模型如何着手解决问题,而不只是代码是否通过。我们还在 OpenCode 上以 Fledge-Alpha 之名测试了 Inkling 2 Small 的早期 checkpoint,以评估模型在真实世界 coding 任务上的表现。
最终得到的模型不仅 coding 能力更强,在真实 agent 循环中也更易用。相比 Inkling,Inkling 2 Small 的可用性有所提升:它更好地遵循指令,审慎考虑改动,并会主动验证自己的工作。
69 个任务 · 四次独立尝试 · 10 小时预算
将鼠标悬停在曲线上或选择一个模型进行查看;再次选择可重置。聚焦某个模型后,使用 ← 和 → 逐条查看结果,按 Escape 清除。
PMPP-Hard 结果
模型AUC(任务·小时)平均解出 / 69Pass@4 / 69GPT-6 Astra616.396363Kimi K3.1 Pro583.8660.563Claude Opus 5.5499.656064DeepSeek V4.1 Flash497.3655.2562Inkling 2 Small494.2754.2564Mistral Large 4478.3950.2561Kimi K3453.5855.7566GLM 5.3430.9652.561GLM 5.2389.124261
各行按 AUC 排序:AUC 是 0–10 小时内平均曲线下的面积,最大值为 690 任务·小时。
每个模型都使用其可用的最高推理设置、PI harness 和共享的压缩策略。我们纳入了评估过程中发现的任务和评分问题的修复。每个提交的解决方案都会接受两次独立的 LLM 审核,出现分歧时由第三次评审裁定。
除常规软件任务外,Inkling 2 Small 还接受了长周期 autoresearch 任务的训练。这包括 agentic GPU kernel 优化,以及诸如自主后训练一个模型之类的 ML 任务,全部在一系列 GPU 架构上运行。
DeepSeek-V3.2 稀疏注意力,前向 + 反向
DeepSeek V4.1 Flash · 5.66×GLM 5.3 · 5.03×Mistral Large 4 · 3.43×
相对原始版本的加速比(×)
DeepSeek Sparse Attention 让每个 query 只关注由轻量 indexer 选出的 top-k 前序 token,因此长上下文成本不再随上下文长度的平方增长。从公开的 TileLang kernel 出发,让训练 kernel 更快,同时保持其误差接近原始版本(严格容差),不限时间。该基准覆盖不同规模、不同场景的多个模型尺寸,从打包的预训练序列到长上下文训练。公开的 TileLang 基线并未针对 B300 调优,这为在这些负载上衡量各模型的优化能力和持久力留下了充足空间。加速比仅针对这些 kernel,而非端到端训练。
为展示其端到端的 autoresearch 表现,我们在 Proximal 为我们某个内部基准构建的任务上测试了 Inkling 2 Small。Inkling 2 Small 在 Tinker 上自主训练 Qwen3.5-4B,用于预测天气、维基百科页面浏览量等多种时间序列。它首先分析任务并编写自己的评估器,试验训练数据集和训练配方,尝试各种 SFT 和 RL 方法,并在过程中不断调试。经过 4.5 小时的工作和 426 美元的 Tinker 花费,训练后的模型预测得分提升了一倍以上。
「更少误差」是与简单地把最后几个值向前复制相比。
评估得分(相比复制法减少的误差百分比)100 个示例
0.00 美元Tinker 花费(上限 500 美元)
数据来源:美国能源信息管理局(EIA-930);天气和空气质量数据来自 Open-Meteo.com(CC BY 4.0),包含经修改的 Copernicus Climate Change Service 和 Copernicus Atmosphere Monitoring Service 2026 年信息;Wikimedia 页面浏览量(CC0)。
第 1 步:开始第 2 步:构建评估第 3 步:数据整理第 4 步:监督微调第 5 步:初步结果第 6 步:在全量历史上做 SFT第 7 步:强化学习第 8 步:更多 SFT第 9 步:提交
重新播放1x
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。