Coral Bricks AI 发布 Qwen3.6 投机解码草稿模型 DFlash2
来源标题：DFlash2 drafter for Qwen3.6 trained on coding workloads
Coral Bricks AI 发布 DFlash2 投机解码草稿模型，针对 Qwen3.6-35B-A3B-FP8 训练，专为软件工程与智能体场景优化。该草稿模型仅负责提议 token，由目标模型逐个验证，因此输出正确性不变；模型为 0.5B 参数、BF16 权重、block 8。官方提供了在单张 H100 上基于 SGLang 部署的完整说明。
以下正文由 AI 翻译自 Hacker News 最新（原文版权归原站所有），可能存在偏差，重要内容请以原文为准。
赞 2 关注 Coral Bricks AI 6 Safetensors qwen3 speculative-decoding dflash2 sglang qwen3.6 License: apache-2.0 模型卡 文件 文件与版本 xet 社区 复制到存储桶 Qwen SWE Drafter（DFlash2，block 8）部署 文件 Qwen SWE Drafter（DFlash2，block 8） 面向 Qwen/Qwen3.6-35B-A3B-FP8 的 DFlash2 投机解码 drafter，针对软件工程与 agentic 流量训练。目标模型保持不变。drafter 只负责提议 token，目标模型会逐一验证，因此正确性不变。 背景与实测数据：Qwen3.6 在 CoralBricks 上的投机解码。 部署 在单张 H100 上将该 drafter 与目标模型一起部署的分步说明——包括原版 SGLang、CUDA 13 镜像及 CUDA 12.9 回退方案、所需参数、资源规格与故障排查——见 SERVE.md。 文件 model.safetensors — BF16 权重 config.json — DFlash2 配置（block 8、taps、mask token 248077） SERVE.md — 部署手册 上月下载量 79 Safetensors 模型大小 0.5B 参数 张量类型 BF16 · 文件信息 推理服务商 新增 该模型尚未被任何推理服务商部署。🙋 申请服务商支持 coral-bricks-ai/qwen-swe-drafter 的模型树 基础模型
正文由 探How 从来源站点 RSS 同步，内容未经改写；遇到排版缺失或需要图片、视频时请以原文为准。