
llama.cpp 发布 v1.0.0 正式版
来源标题:llama.cpp v1.0
llama.cpp 发布了首个 v1.0.0 正式版,代码提交显示本次将版本号从原有版本提升至 1.0.0,并同步更新了底层 ggml 库至 1.0.0。该版本还清理了示例中过时内容,并修复了 CI 中 HIP 质量检查的问题。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
v1.0.0
最新版本
对比
选择一个标签进行对比
抱歉,出错了。
筛选
加载中
抱歉,出错了。
哎呀!
加载时发生错误。请重新加载此页面。
v1.0.0
b1b770d
此提交在 GitHub.com 上创建,并已使用 GitHub 的验证签名签署。
GPG 密钥 ID:B5690EEEBB952194
已验证
了解警惕模式。
概览
新版本已发布。
b1b770d examples:从 test-cmake 中移除显式版本号(#32191)
4cda622 llama.cpp:版本号升至 1.0.0(#32190)
6859813 sync:ggml
3bfde28 ggml:版本号升至 1.0.0(ggml/1690)
28d37fe examples:清理旧有/废弃内容(#32184)
bd2767d ci:通过忽略 FP8 vec FA 内核溢出修复 HIP 质量检查(#32183)
82503b4 ci:将 windows-cuda ccache 大小设为 1G(#32185)
5676dfb chat:在中等/低努力模式下接受 </ifm|think> 作为 K2 Horizon 关闭符(#30335)
0a66ac7 server,修复 CI:在 read_file 工具测试中读取一个小临时文件 [no release](#32168)
892b40b server:在视觉测试中允许私有媒体 URL [no ci](#32167)
e970101 server:当主机无法访问 LAN 地址时跳过 LAN 地址测试 [no ci](#32166)
92d6c8a fix(hexagon):使主机构建在 Windows ARM64 上支持 clang-cl(#32011)
8ca5a80 llama:精简(#30565)
29dbbad ggml:精简(#29801)
2a4daf0 hexagon:添加 Q5_0 和 Q5_1 支持(#32094)
d8c8cc4 server:在客户端断开连接或超时时取消 MCP 工具调用(#32025)
3ba1ce0 qwen3.5:转换时也合并张量(#32102)
0fb8f15 标题:CUDA:针对 BS 2-24 的 few-row MMQ(#31533)
827466b ci:在非 slim runner 上构建 UI(#32138)
8954f19 server:修复 CORS 代理和媒体 URL 的 SSRF 问题(#32115)
a1a68eb server:通过非回环地址显式启用工具,检查 CORS 主机端口(#32113)
e182fda server:禁止浏览器直接访问子实例(#32120)
09452cd server:当请求使用其状态时保持服务器唤醒(#32133)
cfb9d4b mtmd:HunyuanVL 要求 F32 位置嵌入(#32131)
72f4603 mtmd:从 ne[1] 读取 MiniCPM-V 投影宽度(#32132)
8c38836 mtmd:要求 MLP 投影器和 patch embedding 张量(#32129)
08f4959 mtmd:Qwen-VL 投影器要求 2x2 空间合并(#32130)
a8575a3 ggml:将 GATED_DELTA_NET 路由到 SpacemiT RVV 内核(#31897)
a963f65 vulkan:用于 prefill 的 Intel FA 内核(#29357)
ab4a77b ggml-cpu:在 ARM NEON 上使用 4x4 simd_gemm tile(#32128)
0d69255 CUDA:通过为 nvfp4 checkpoint 在 epilogue MMQ 中融合 w_s scale 来优化 prefill(#26048)
3bce8bd ggml-backend:仅预取由先前 split 计算出的输入(#32100)
81f21f4 ggml:通过 HP 内核调度 SpacemiT Q4_1 32x256(#31929)
b19f1d9 ui:添加 search_chats 工具(#32051)
d90cfd4 ui:从 GitHub tarball 而非 git 安装 llama-brand(#32112)
60d46a5 server:当指定 --tools-runtime 时忽略 x-tool-runtime(#32119)
93cf736 chat:重构 gemma4 以构建宽松 schema 规则并清理(#31915)
4fffab6 llama:避免触碰未使用的图元数据页(#32043)
09338b8 sycl:使 oneDNN FA 缓存线程安全并记忆化运行时失败(#31138)
dcbff21 sycl:修复超过 4GB 的 AOT(#31873)
f3d7725 sycl:在 set_main_device 中使用缓存的 device-id(#32013)
7021f7e CUDA:添加 CUDA 调试缓冲池(#31919)
e0949d0 opencl:添加 bin 内核 kernel_gemm_noshuffle_q4_0_f32_32b_trans_ila_a7_bin(#30947)
5d4c8ee CUDA:在 MMQ stream-k 修正中跳过空 MoE tile(#32067)
dd6b945 server:在 router CORS 测试中使用移动后的测试模型(#32117)
e1f7593 opencl:为 Adreno 添加分解式 FA(#32046)
7bcbc04 ui:将 JS 沙箱设置移出“developer”(#32054)
dd00306 docs:更新 README.md 中的图片链接(#32038)
1d81992 ui:在搜索期间将下载保留在 Discover 中,并用草稿修复其进度(#31467)
bd717e0 ui:从 llama-brand 包中获取 logo 和 favicon(#32039)
2cbe0ec server:修复 --cors-origins 处理 + 防范 DNS 重绑定(#32098)
664f031 ci:将测试模型移至 ggml-org-dev(#32096)
4180722 metal:防止 SOLVE_TRI 内核中的越界读取(#32103)
055c3c2 vulkan:支持批量张量复制 API(#31418)
2656b71 vendor:将 LibreSSL 更新至 4.4.1 [no ci](#32106)
cb44fdb llama:在调度器预留之间复用图结果实例(#32089)
cd2db80 jinja:支持链式比较和参数解包(#32072)
f7b886f chat:允许 TTS 模型通过 jinja 提供自定义文本规范化器(#32053)
956591f ci:移除死代码(#32084)
ccd360f llama:移除非融合 GDN 和依赖 ubatch 的图节点(#32078)
b326dd6 devops:向 Windows SYCL 发布包添加缺失的 MKL 运行时 DLL(#32005)
b8abe41 vendor:将 cpp-httplib 更新至 0.66.0(#32049)
2e325dc backend:当内核的 cluster dims 变化时重新实例化 CUDA 图(#31284)
1648d64 test-fp8.cpp:仅使用公共 ggml API(#32083)
4324336 ROCm/HIP:使用固定的 BLAS 工作区,而非每次调用由 rocBLAS 分配(#31838)
71a6a11 quantize:修复 imatrix GGUF 文件路径元数据泄漏(#32000)
7f24aac cpu:以 F32 累加 flash attention V(#29810)
af6b524 webgpu:添加 PAD_REFLECT_1D 支持(#31877)
d2b3eb9 vulkan:允许 CM2 的反量化 KV 优化(#31526)
eeb2104 vulkan:分配设备故障厂商二进制缓冲区(#32008)
03d6c82 tests:仅使用公共 ggml API(#32077)
adde94c ui:在 Android 上于聊天编辑器中打开虚拟键盘(#32060)
459ab1c cuda:对小批量下少行 BF16 矩阵使用 MMVF(#31959)
77e2db8 cuda:为 DKQ=256、DV=256、ncols=64 添加 sm70 FlashAttention 配置用例(#27997)
9d7b2d7 cuda:fattn mma 头尺寸 40 72(#30285)
9e9619d CUDA:添加 OCP FP8 支持(#28413)
f3b407c sycl:修复 sycl CLAMP 以真正支持跨步视图(#31784)
aa75ff3 chat:修复 Muse Spark 忽略 response_format json_schema 的问题(#32017)
b5cb8f6 ui:再次防止隐藏的侧边栏拦截点击(#32035)
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。