开发者做工具帮用户按硬件配置筛选可本地运行的大模型

帮你找到能跑在自己电脑上的 AI 模型。对比内存占用和基准测试分数，然后拿到确切的文件在本地运行。 图 01 本地推理选择你的电脑 MacWindowsLinuxDGX Spark 统一内存GB 查找我的内存Mac打开 Apple 菜单 → 关于本机，然后查看内存。如果它列出的是 Intel 处理器，请在高级设置中选择 Intel Mac。 高级设置Intel Mac对 Intel Mac 使用系统内存，或者在上方输入其独立显卡内存。 2026 年发布 · 4,096 tokens · 一个文本会话。系统预留后可用 12.8 GiB。你的 Mac 与 GPU 共享这部分内存。 模型目录 浏览模型 20 最新模型检查 2026 年 11 月 11 日 模型目录基准图表内存图表 所有发布年份2026 年发布2025 年发布2024 年发布自动量化IQ1_MIQ1_SIQ2 混合（QAT）IQ3_SIQ4_XSMXFP4NVFP4Q2_0Q4_0Q4_14-bit · Q4_K_MQ5_K_MQ6_K8-bit · Q8_0UD-IQ1_SUD-IQ2_XXSUD-IQ3_XXSUD-IQ4_XSUD-Q2_K_XLUD-Q3_K_XL最新发布优先最旧发布优先模型名称：A 到 Z模型名称：Z 到 A所选分数最高所选分数最低参数最少参数最多下载最小下载最大预估内存最低预估内存最高硬件适配最佳硬件适配最差 推理编程智能体与工具指令对话更多测试 GPQA Diamond 用相同的科学问题对比开源与闭源模型。AIME 测试竞赛数学。没有哪一项测试能覆盖所有模型。 Diamond 子集包含 198 道生物、物理和化学题。Artificial Analysis 采用四选一多项选择、正则表达式提取答案和 pass@1 评分。每个检查点使用所示的推理设置。分数来自同一评估器和同一子集，并非发布方重跑。 相同的基准和评估器。优先使用 GPT-5.1；当其结果可用时，会使用另一个高级模型。检查于 2026-11-12。 模型基准对比参数下载预估内存硬件适配获取文件2026 年 11 月 8 日TwIL 8B（均衡）webAI · 推理 GPQA Diamond · 均衡 TwIL 8B（均衡）70.2% GPT-5.187.3% 测试设置不同 · 仅供参考2 条已发布结果 ↗8.79B5.35 GBQ4_K_M6.4 GiB从容运行获取2026 年 10 月 23 日Nemotron 3.5 Bolt E4BNVIDIA · 对话 IFBench · 宽松 Nemotron 3.5 Bolt E4B61.1% GPT-5.172.9% 落后 GPT-5.1 11.8 个百分点5 条已发布结果 ↗8B8.03 GBQ8_08.8 GiB从容运行获取2026 年 10 月Ternary Bonsai 2 9BPrismML · 对话 GPQA Diamond Ternary Bonsai 2 9B69.9% GPT-5.187.3% 测试设置不同 · 仅供参考2 条已发布结果 ↗8.95B2.56 GBQ2_03.3 GiB从容运行获取2026 年 10 月Mellum2.1 12B ThinkingJetBrains · 编程 GPQA Diamond · JetBrains 运行 Mellum2.1 12B Thinking64.6% GPT-5.187.3% 测试设置不同 · 仅供参考3 条已发布结果 ↗12B8.07 GBQ4_K_M8.9 GiB从容运行获取2026 年 10 月Ternary Bonsai 2 4BPrismML · 对话 GPQA Diamond Ternary Bonsai 2 4B63.84% GPT-5.187.3% 测试设置不同 · 仅供参考2 条已发布结果 ↗4.21B1.21 GBQ2_02.1 GiB从容运行获取2026 年 10 月Ternary Bonsai 2 2BPrismML · 对话 GPQA Diamond Ternary Bonsai 2 2B39.6% GPT-5.187.3% 测试设置不同 · 仅供参考2 条已发布结果 ↗1.88B547 MBQ2_01.3 GiB从容运行获取2026 年 10 月LFM3 1.7BLiquid AI · 对话 GPQA Diamond · Liquid AI 小模型运行 LFM3 1.7B63.37% GPT-5.187.3% 测试设置不同 · 仅供参考3 条已发布结果 ↗1.73B1.85 GBQ8_02.5 GiB从容运行获取2026 年 9 月MiMo V2.6 Distill Qwen 9BXiaomi MiMo · 编程 暂无已发布对比尚无来源结果9.41B5.84 GBQ4_K_M6.4 GiB从容运行获取2026 年 9 月Ternary Bonsai 2 27BPrismML · 对话 IFBench · 提示词宽松 · PrismML 运行 Ternary Bonsai 2 27B74% GPT-5.172.9% 测试设置不同 · 仅供参考2 条已发布结果 ↗26.9B7.63 GBQ2_08.6 GiB从容运行获取2026 年 9 月MiniCPM5 2BOpenBMB · 推理 GPQA Diamond MiniCPM5 2B70.2% GPT-5.187.3% 落后 GPT-5.1 17.1 个百分点3 条已发布结果 ↗2.52B2.68 GBQ8_03.4 GiB从容运行获取2026 年 8 月Granite 4.2 8BIBM · 推理 GPQA Diamond Granite 4.2 8B63.1% GPT-5.187.3% 落后 GPT-5.1 24.2 个百分点4 条已发布结果 ↗8.79B5.35 GBQ4_K_M6.4 GiB从容运行获取2026 年 8 月Granite 4.2 3BIBM · 推理 GPQA Diamond Granite 4.2 3B55.9% GPT-5.187.3% 落后 GPT-5.1 31.4 个百分点4 条已发布结果 ↗3.66B3.89 GBQ8_04.7 GiB从容运行获取2026 年 8 月Qwen3.8 27BQwen · 对话 GPQA Diamond Qwen3.8 27B90.5% GPT-5.187.3% 领先 GPT-5.1 3.2 个百分点16 条已发布结果 ↗27.3B10.9 GBUD-IQ3_XXS12.1 GiB勉强可跑获取2026 年 6 月Gemma 4 12B UnifiedGoogle · 对话 GPQA Diamond Gemma 4 12B Unified75.3% GPT-5.187.3% 落后 GPT-5.1 12 个百分点4 条已发布结果 ↗11.95B7.12 GBQ4_K_M8.9 GiB从容运行获取2026 年 4 月Gemma 4 E4BGoogle · 对话 GPQA Diamond Gemma 4 E4B57.6% GPT-5.187.3% 落后 GPT-5.1 29.7 个百分点15 条已发布结果 ↗8B8.19 GBQ8_09.2 GiB从容运行获取2026 年 4 月Gemma 4 E2BGoogle · 对话 GPQA Diamond Gemma 4 E2B43.3% GPT-5.187.3% 落后 GPT-5.1 44 个百分点5 条已发布结果 ↗5.1B5.05 GBQ8_05.6 GiB从容运行获取2026 年 3 月Qwen3.5 9BQwen · 对话 GPQA Diamond Qwen3.5 9B80.6% GPT-5.187.3% 落后 GPT-5.1 6.7 个百分点14 条已发布结果 ↗8.95B5.68 GBQ4_K_M6.3 GiB从容运行获取2026 年 3 月Qwen3.5 4BQwen · 对话 GPQA Diamond Qwen3.5 4B77.1% GPT-5.187.3% 落后 GPT-5.1 10.2 个百分点13 条已发布结果 ↗4.21B4.48 GBQ8_05.1 GiB从容运行获取2026 年 3 月Qwen3.5 2BQwen · 对话 GPQA Diamond Qwen3.5 2B45.6% GPT-5.187.3% 落后 GPT-5.1 41.7 个百分点7 条已发布结果 ↗1.88B2.01 GBQ8_02.7 GiB从容运行获取2026 年 3 月Qwen3.5 0.8BQwen · 对话 GPQA Diamond Qwen3.5 0.8B11.1% GPT-5.187.3% 落后 GPT-5.1 76.2 个百分点5 条已发布结果 ↗0.752B812 MBQ8_01.6 GiB从容运行获取 显示 71 个模型中的 20 个 · 原始发布日期；未知日期跟随该月有日期的发布之后 · 单用户 GGUF 内存估算 下载表格（CSV） 你的电脑能运行哪个本地 AI 模型？

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）