Ricursive AI 发布 Ripple-65B Preview 开源模型,Terminal-Bench 2.1 得分 80.5
来源标题:Ricursive AI Releases Ripple-65B Preview: A 65B Dense Open-Weight Model Scoring 80.5 on Terminal-Bench 2.1
Ricursive Intelligence 发布 65B 稠密开源模型 Ripple-65B Preview,采用 Apache 2.0 许可。该模型在 Terminal-Bench 2.1 上自报得分 80.5,超过参数量为其 15 倍的美国开源模型。模型基于 12T token 预训练,支持最高 100 万上下文,研发成本 3200 万美元。
以下正文由 AI 翻译自 MarkTechPost(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Ricursive Intelligence 刚刚发布了 Ripple-65B Preview。Ripple-65B Preview 是 Ricursive 推出的一个 65B 稠密开放权重模型,从头预训练,专为 agentic coding 打造。它是 Ricursive AI 芯片设计平台背后专有模型的通用版本。核心卖点:在 Terminal-Bench 2.1 上得分 80.52,是美国开放权重模型中自报的最高分。在该测试中被它击败的每一个 MoE 对手,总参数量都在 501B 到 975B 之间。
TL;DR
- 规模:65B 稠密(65B 激活),在 12T token 上预训练,上下文最高 1M。
- 运行环境:数据中心 GPU 上的 BF16(2x B200 上 250 tok/s)。实验性 NVFP4 版本面向 NVIDIA DGX Spark。
- 性能:同尺寸下达到前沿水平的 agentic coding;在知识和科学编程方面落后于更大的 MoE 模型。
- 最佳:Terminal-Bench 2.1,80.5(自报)。
- 最差:SciCode,39.4,是 Ricursive 自己表格中 5 个模型里最低的。
Ripple-65B Preview 是什么?
本次发布包含 3 个 checkpoint:一个指令微调的 BF16 模型、一个 NVFP4 版本,以及一个 BF16 基础模型。全部以 Apache 2.0 发布。预训练使用纯文本语料,以英文和代码为主,序列长度为 8K。 Ricursive 团队表示,完整研发成本为 3200 万美元。这一数字涵盖阶梯实验、数据混合、评测、合成数据和最终训练运行。Ricursive 团队估计,这只有此前开放权重 agentic coding 领先者成本的十分之一。
架构如何工作?
Ricursive 选择稠密 Transformer 而非 Mixture-of-Experts,以降低基础设施复杂度。训练在简单分片下保持了 40% MFU,没有自定义 kernel,也没有量化。 模型又薄又深:d_model 为 5120,共 80 层。它从 Olmo 3 的类 Llama 布局转向类 Gemma 3N 的设计以提升稳定性。关键选择包括:
- 为推理超配注意力头,并通过更多滑动窗口层和更小的窗口来抵消开销。
- 门控注意力、全局 NoPE 和 value residuals。
- FFN 激活裁剪,这一技术也在 gpt-oss 中使用。 Ricursive 团队从 Olmo 3 的 ladder 出发,通过阶梯实验构建了这套配方。他们否决了在 4B 规模下无法保持的改动,例如 2-stream mHC。技术博客称,在 4B 规模下实现了 16 倍的代码计算效率提升。
后训练是如何进行的?
后训练包括 midtraining、长上下文、SFT、长上下文 SFT 和混合 RL。长上下文阶段以 2M 序列长度训练。Ricursive 没有购买任何后训练数据,而是自建合成数据管线。 RL 配方结合了截断重要性采样、分数居中和线性长度惩罚。Ripple 用 140 万次 rollout 在 Terminal-Bench 2.1 上达到 80.5。Ricursive 称这比 Beam 少约 70 倍,后者报告了超过 1 亿次 rollout。
Ripple-65B 在基准测试上表现如何?
Ricursive 团队使用 OpenCode 在内部补跑了缺失的评测,SWE-bench Pro v2.0 Hard 和 DeepSWE 1.1 则使用 Terminus 2。以下分数为 Ricursive 提供的数据。
- Terminal-Bench 2.1:80.5,对比 Beam 80.1、Muse Spark Open 76.4、Inkling 63.8、Nemotron 3 Ultra 56.4。
- SWE-bench Pro v2.0 Hard:79.1,Ricursive 表格中的最高分。
- SWE-bench Verified:76.5,低于 Beam 和 Inkling。
- 数学:AIME 2025 上 98.3,HMMT Feb 2026 上 90.5。
- 弱项:SciCode 39.4、DeepSWE 1.1 44.3、MCP Atlas 71.67、GPQA Diamond 85.2。 Ricursive 团队还在 128K 下用官方 Terminus 2 harness 重跑了 Terminal-Bench 2.1。大多数对手在此条件下分数下降;Beam 降至 70.8。Muse Spark Open 升至 78.7,仍低于 Ripple 的 80.5。
对比表
FeatureRipple-65B PreviewReflection BeamMeta Muse Spark OpenThinking Machines InklingNVIDIA Nemotron 3 Ultra ArchitectureDenseMoEMoEMoEHybrid Mamba-2 LatentMoE Total params65B501B816B975B550B Active params65B23B42B41B55B Pretraining tokens12T23.8TNot disclosed45T (per Ricursive table)~20T ContextUp to 1M1M (midtraining)1M1MUp to 1M LicenseApache 2.0Apache 2.0Muse Model LicenseApache 2.0OpenMDW-1.1 Input modalityTextTextText, image, video, audioText, image, audioText Self-hosting floorDGX Spark class (NVFP4)Not disclosed700GB VRAM (NVFP4)600GB VRAM (NVFP4)8x B200 or 16x H100 Terminal-Bench 2.180.580.176.463.856.4 SWE-bench Verified76.580.9Not disclosed by Meta77.670.7 GPQA Diamond85.2Not disclosed in blog89.087.287.0 Ripple 分数来自 Ricursive 模型卡。竞品分数来自各厂商自己的来源。均为自报。
开发者在哪里可以运行它?
权重已上传至 Hugging Face。Ricursive 在发布时列出了 Together AI、GMI Cloud 和 OpenRouter,Fireworks 稍后跟进。Together AI 的页面目前将该模型标记为即将推出。 在数据中心 GPU 上,该模型在 batch 8、2x B200 上达到 250 tok/s(量化前)。实验性 NVFP4 checkpoint 对 MLP 层进行量化,注意力保持 BF16。Ricursive 团队将其定位用于 NVIDIA DGX Spark 等本地设备。此外还列出了 DFlash2 变体。
关键要点
- 65B 稠密,12T token,1M 上下文,Apache 2.0。
- Terminal-Bench 2.1 上 80.5,美国开放权重中最高。
- 完整研发投入 3200 万美元,140 万次 RL rollout。
- NVFP4 版本面向 DGX Spark 级本地硬件。
- 在 SciCode、DeepSWE 和 MCP Atlas 上落后于更大的 MoE 对手。 查看发布博客、模型卡和 NVFP4 checkpoint。也欢迎在 Twitter 上关注我们,别忘了加入我们 15 万+ 的 ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。 需要与我们合作推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或 Webinar 等?联系我们 文章 Ricursive AI Releases Ripple-65B Preview: A 65B Dense Open-Weight Model Scoring 80.5 on Terminal-Bench 2.1 最早出现在 MarkTechPost。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。