返回资讯中心
外部精选
软件工程
#开发者实时流

llama.cpp 发布 v1.0.0 正式版

来源标题:llama.cpp v1.0

llama.cpp 发布了首个 v1.0.0 正式版,代码提交显示本次将版本号从原有版本提升至 1.0.0,并同步更新了底层 ggml 库至 1.0.0。该版本还清理了示例中过时内容,并修复了 CI 中 HIP 质量检查的问题。

Hacker News 最新pvtmert2026/11/13 · 4 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

v1.0.0

最新版本

对比

选择一个标签进行对比

抱歉,出错了。

筛选

加载中

抱歉,出错了。

哎呀!

加载时发生错误。请重新加载此页面。

v1.0.0

b1b770d

此提交在 GitHub.com 上创建,并已使用 GitHub 的验证签名签署。

GPG 密钥 ID:B5690EEEBB952194

已验证

了解警惕模式。

概览

新版本已发布。

b1b770d examples:从 test-cmake 中移除显式版本号(#32191)

4cda622 llama.cpp:版本号升至 1.0.0(#32190)

6859813 sync:ggml

3bfde28 ggml:版本号升至 1.0.0(ggml/1690)

28d37fe examples:清理旧有/废弃内容(#32184)

bd2767d ci:通过忽略 FP8 vec FA 内核溢出修复 HIP 质量检查(#32183)

82503b4 ci:将 windows-cuda ccache 大小设为 1G(#32185)

5676dfb chat:在中等/低努力模式下接受 </ifm|think> 作为 K2 Horizon 关闭符(#30335)

0a66ac7 server,修复 CI:在 read_file 工具测试中读取一个小临时文件 [no release](#32168)

892b40b server:在视觉测试中允许私有媒体 URL [no ci](#32167)

e970101 server:当主机无法访问 LAN 地址时跳过 LAN 地址测试 [no ci](#32166)

92d6c8a fix(hexagon):使主机构建在 Windows ARM64 上支持 clang-cl(#32011)

8ca5a80 llama:精简(#30565)

29dbbad ggml:精简(#29801)

2a4daf0 hexagon:添加 Q5_0 和 Q5_1 支持(#32094)

d8c8cc4 server:在客户端断开连接或超时时取消 MCP 工具调用(#32025)

3ba1ce0 qwen3.5:转换时也合并张量(#32102)

0fb8f15 标题:CUDA:针对 BS 2-24 的 few-row MMQ(#31533)

827466b ci:在非 slim runner 上构建 UI(#32138)

8954f19 server:修复 CORS 代理和媒体 URL 的 SSRF 问题(#32115)

a1a68eb server:通过非回环地址显式启用工具,检查 CORS 主机端口(#32113)

e182fda server:禁止浏览器直接访问子实例(#32120)

09452cd server:当请求使用其状态时保持服务器唤醒(#32133)

cfb9d4b mtmd:HunyuanVL 要求 F32 位置嵌入(#32131)

72f4603 mtmd:从 ne[1] 读取 MiniCPM-V 投影宽度(#32132)

8c38836 mtmd:要求 MLP 投影器和 patch embedding 张量(#32129)

08f4959 mtmd:Qwen-VL 投影器要求 2x2 空间合并(#32130)

a8575a3 ggml:将 GATED_DELTA_NET 路由到 SpacemiT RVV 内核(#31897)

a963f65 vulkan:用于 prefill 的 Intel FA 内核(#29357)

ab4a77b ggml-cpu:在 ARM NEON 上使用 4x4 simd_gemm tile(#32128)

0d69255 CUDA:通过为 nvfp4 checkpoint 在 epilogue MMQ 中融合 w_s scale 来优化 prefill(#26048)

3bce8bd ggml-backend:仅预取由先前 split 计算出的输入(#32100)

81f21f4 ggml:通过 HP 内核调度 SpacemiT Q4_1 32x256(#31929)

b19f1d9 ui:添加 search_chats 工具(#32051)

d90cfd4 ui:从 GitHub tarball 而非 git 安装 llama-brand(#32112)

60d46a5 server:当指定 --tools-runtime 时忽略 x-tool-runtime(#32119)

93cf736 chat:重构 gemma4 以构建宽松 schema 规则并清理(#31915)

4fffab6 llama:避免触碰未使用的图元数据页(#32043)

09338b8 sycl:使 oneDNN FA 缓存线程安全并记忆化运行时失败(#31138)

dcbff21 sycl:修复超过 4GB 的 AOT(#31873)

f3d7725 sycl:在 set_main_device 中使用缓存的 device-id(#32013)

7021f7e CUDA:添加 CUDA 调试缓冲池(#31919)

e0949d0 opencl:添加 bin 内核 kernel_gemm_noshuffle_q4_0_f32_32b_trans_ila_a7_bin(#30947)

5d4c8ee CUDA:在 MMQ stream-k 修正中跳过空 MoE tile(#32067)

dd6b945 server:在 router CORS 测试中使用移动后的测试模型(#32117)

e1f7593 opencl:为 Adreno 添加分解式 FA(#32046)

7bcbc04 ui:将 JS 沙箱设置移出“developer”(#32054)

dd00306 docs:更新 README.md 中的图片链接(#32038)

1d81992 ui:在搜索期间将下载保留在 Discover 中,并用草稿修复其进度(#31467)

bd717e0 ui:从 llama-brand 包中获取 logo 和 favicon(#32039)

2cbe0ec server:修复 --cors-origins 处理 + 防范 DNS 重绑定(#32098)

664f031 ci:将测试模型移至 ggml-org-dev(#32096)

4180722 metal:防止 SOLVE_TRI 内核中的越界读取(#32103)

055c3c2 vulkan:支持批量张量复制 API(#31418)

2656b71 vendor:将 LibreSSL 更新至 4.4.1 [no ci](#32106)

cb44fdb llama:在调度器预留之间复用图结果实例(#32089)

cd2db80 jinja:支持链式比较和参数解包(#32072)

f7b886f chat:允许 TTS 模型通过 jinja 提供自定义文本规范化器(#32053)

956591f ci:移除死代码(#32084)

ccd360f llama:移除非融合 GDN 和依赖 ubatch 的图节点(#32078)

b326dd6 devops:向 Windows SYCL 发布包添加缺失的 MKL 运行时 DLL(#32005)

b8abe41 vendor:将 cpp-httplib 更新至 0.66.0(#32049)

2e325dc backend:当内核的 cluster dims 变化时重新实例化 CUDA 图(#31284)

1648d64 test-fp8.cpp:仅使用公共 ggml API(#32083)

4324336 ROCm/HIP:使用固定的 BLAS 工作区,而非每次调用由 rocBLAS 分配(#31838)

71a6a11 quantize:修复 imatrix GGUF 文件路径元数据泄漏(#32000)

7f24aac cpu:以 F32 累加 flash attention V(#29810)

af6b524 webgpu:添加 PAD_REFLECT_1D 支持(#31877)

d2b3eb9 vulkan:允许 CM2 的反量化 KV 优化(#31526)

eeb2104 vulkan:分配设备故障厂商二进制缓冲区(#32008)

03d6c82 tests:仅使用公共 ggml API(#32077)

adde94c ui:在 Android 上于聊天编辑器中打开虚拟键盘(#32060)

459ab1c cuda:对小批量下少行 BF16 矩阵使用 MMVF(#31959)

77e2db8 cuda:为 DKQ=256、DV=256、ncols=64 添加 sm70 FlashAttention 配置用例(#27997)

9d7b2d7 cuda:fattn mma 头尺寸 40 72(#30285)

9e9619d CUDA:添加 OCP FP8 支持(#28413)

f3b407c sycl:修复 sycl CLAMP 以真正支持跨步视图(#31784)

aa75ff3 chat:修复 Muse Spark 忽略 response_format json_schema 的问题(#32017)

b5cb8f6 ui:再次防止隐藏的侧边栏拦截点击(#32035)

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →