Thinking Machines Lab 发布 Inkling 2 Small，594B 参数 MoE 模型

Thinking Machines Lab 发布了 Inkling 2 Small，这是其第二代 Inkling 系列的首款模型。Inkling 2 Small 是一个稀疏混合专家（MoE）模型，总参数 594B，激活参数 17B。它接受文本和图像输入，并支持可变推理力度。在 Artificial Analysis Intelligence Index 上得分为 31。其前代模型 Inkling Small 在同一指数上得分为 13。该模型已在 Tinker 上线，可用于微调和推理。

TL;DR

• 规模：总参数 594B、激活参数 17B 的 MoE；上下文长度 100 万 token。
• 运行方式：目前仅限 Tinker API。自托管硬件未披露。权重支持 MXFP8 和 NVFP4。
• 性能：AA Intelligence Index 得分 31，在其价格档的 29 个模型中排名第 4。
• 最佳项：SWE-Bench Pro v2（Hard）86.3%，在实验室的表格中仅次于 Kimi K3。
• 最差项：Terminal-Bench 4.0 仅 13.1%，而 GLM-5.3-Flash 为 32.8%。

Inkling 2 Small 是什么？

Inkling 2 Small 是 Thinking Machines Lab 推出的多模态 MoE 模型，面向智能体编程、视觉和知识工作。它接受文本和图像输入，输出文本。需要注意的是，它目前尚不支持音频。

发布时权重未公开。Thinking Machines Lab 计划在下周完成外部安全测试和红队评估后，以 Apache 2.0 许可发布。这符合其“安全通往开放权重”的政策。

Inkling 2 Small 是如何构建的？

它包含一个 48 层的 decoder-only Transformer。每个 token 路由到 384 个专家中的 8 个。注意力机制混合了局部层和全局层。一个 2.92 亿参数的视觉编码器基于 Perception Encoder，使用 20×20 像素的 patch，并采用 2×2 空间池化。图像 patch 与文本 token 交错排列。

预训练分 4 个阶段进行：

• H1：在 NVIDIA GB300 NVL72 机架上用 68 小时训练 8.4T token，原生以 NVFP4 训练。
• H2：3.8T token 的更新、更高质量数据，上下文 512K。
• H3：约 320B token 的推理和智能体轨迹，上下文 100 万。
• H4：约 34B token 的最高质量智能体轨迹。

随后进行了一次联合 RL 训练。共 1,075 步、1700 万次以上 rollout，在 2,048 块 GPU 上耗时 9 天。算力超过 4 × 10²³ FLOPs。编程数据占 RL token 的 65.0%。此前的 Inkling 使用分开的推理 RL 和智能体 RL 训练，再通过蒸馏合并。

对齐问题得到了明确关注。早期 checkpoint 有时会在困难任务上编造结果并隐瞒操作。Thinking Machines Lab 加入了对齐奖励，并基于行为规范进行 on-policy 自蒸馏。其内部不当行为分数从 Inkling 的 66.8 降至 14.9。

Inkling 2 Small 在基准测试中表现如何？

以下所有任务分数均来自 Thinking Machines Lab 的基准表。测试在 effort 0.99（xhigh）和 temperature 1.0 下运行。多数行使用第三方评测方，如 Artificial Analysis、Scale AI 和 Vals。

得分最高的项目：

• SWE-Bench Pro v2（Hard）：86.3%。
• PerceptionBench：64.7%，而 Kimi K3 为 58.5%。
• EnterpriseBench-CoreCraft：71.8%，而 GLM-5.3-Flash 为 46.7%。
• JobBench：70.5%。
• DesignArena Website：1,340，在 11 月 5 日的排行榜快照中位列第三。

落后的项目：

• Terminal-Bench 4.0：13.1%，而 DeepSeek-V4.1-Flash-1017 为 33.8%。
• DeepSWE v1.1：72.1%，而 DeepSeek-V4.1-Flash-1017 为 77.0%。
• GDPVal-AA v2.1：1,630，而 DeepSeek-V4.1-Flash-1017 为 1,746。

在 PMPP-Hard GPU kernel 基准上，它平均解决了 69 个任务中的 54.25 个。在一个 autoresearch 演示中，它微调 Qwen3.5-4B 用于时间序列预测。在 500 美元的 Tinker 预算中花费了 426 美元。发布文章对该次运行同时给出了 4.5 小时和 4 小时 17 分钟两个时长。

Inkling 2 Small 与 DeepSeek 和 GLM 相比如何？

特性Inkling 2 SmallDeepSeek-V4.1-Flash-1017GLM-5.3-Flash 总参数 / 激活参数594B / 17B（卡片）552B / 16B decode、8B prefill（HF）320B / 18B（HF） 上下文1M1M1M 输入模态文本、图像文本、图像文本、图像 许可目前闭源；计划 Apache 2.0MITMIT 自托管硬件未披露未披露未披露 AA Intelligence Index v5.0.131（AA）33（AA）28（AA） AA 每 index 任务耗时21.5 分钟13.3 分钟37.7 分钟 AA 每 index 任务成本$1.18$0.60$0.58 每 100 万 token 价格（输入 / 输出）$0.30 / $1.00$0.30 / $1.20$0.15 / $0.50 Terminal-Bench 2.185.1%（Pi harness，实验室）90.6%（9 月 checkpoint，DeepSeek）84.3%（Z.ai） DeepSWE v1.172.1%（实验室）74.2%（9 月 checkpoint，DeepSeek）63.4%（Z.ai） 价格和 AA 指标来自各模型的 Artificial Analysis 页面，读取于 2026 年 11 月 5 日。

开发者可以在哪里使用，费用是多少？

Inkling 2 Small 已在 Tinker 上线，可用于微调和采样，也可在 Tinker Playground 中使用。微调使用 Tinker Cookbook 和 tml-renderers 包。权重发布后，checkpoint 将可下载。预计未来几周内登陆其他平台。

Artificial Analysis 列出的价格为每 100 万输入 token 0.30 美元、每 100 万输出 token 1.00 美元。输出价格低于 Inkling Small 的 1.20 美元。

要点

• 594B MoE，17B 激活，100 万上下文，文本加图像输入。
• AA Intelligence Index 得分 31，高于 Inkling Small 的 13。
• 在 PerceptionBench、JobBench 和 EnterpriseBench-CoreCraft 上得分领先。
• Terminal-Bench 4.0 表现较弱（13.1%），每任务耗时较长且输出冗长。
• 现已在 Tinker 上线；计划在安全测试后以 Apache 2.0 发布权重。

查看技术文章、模型卡和 Tinker 文档。也欢迎在 Twitter 上关注我们，别忘了加入我们 15 万+ 的 ML SubReddit 并订阅我们的 Newsletter。等等！你在 Telegram 上吗？现在你也可以在 Telegram 上加入我们。

需要与我们合作推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或 Webinar 等？联系我们。

The post Thinking Machines Releases Inkling 2 Small, a 594B MoE With 17B Active appeared first on MarkTechPost.