
QuadGate 开源四门控控制平面,让 agent 的 KV 前缀缓存保持命中
来源标题:QuadGate – 4-gate control plane that keeps agent KV prefix caches warm SHow HN
开源项目 QuadGate 发布四门控控制平面,通过保留 KV 前缀缓存来降低 AI 编码与知识 agent 的成本。官方基准显示其成本降低 76.9%,中位加速 3.95 倍、平均延迟降低 71.1%,pass@1 达 100%。它以免输出的本地守护进程和钩子形式接入 Claude Code、OpenAI Codex CLI、MCP 客户端等。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
4 门判别式控制平面,保持 KV 缓存预热,将 LLM 成本降低 76.9%,中位加速达到 3.95 倍。 快速开始 • 基准测试 • 架构 • 集成 • 贡献 QuadGate 是一个面向 AI 编程与知识代理的开源 4 门判别式控制平面,它保持 KV 前缀缓存、强制执行离线安全不变量、按「完成期望成本」路由子代理,并对完成情况进行审计,从而实现成本降低 76.9%、中位加速 3.95 倍(平均延迟降低 71.1%)、pass@1 达到 100.0%。 它以三种形态运行:常驻 localhost 守护进程(127.0.0.1:8787)、冷会话反向代理(127.0.0.1:8788),以及零依赖、耗时小于 450 ms 的 hook shim(qg-shim),覆盖 Antigravity(含原生 Swarms)、Claude Code、OpenAI Codex CLI 和 MCP 客户端,且无需在生成式评审器上消耗输出 token。 完整的签名收据、SHA-256 任务哈希与方法论发布于 benchmarks/reports/v1_release_proof.md(同步镜像于 benchmarks/reports/LATEST_PROOF.md;共 210 份收据,来自 105 组匹配的 Baseline 与 QuadGate 对照,跨 3 次运行,云端可用的编程任务使用在线 gemini-decision-1,其余走本地 Air-Gap 路由),并由 benchmarks/reports/calibration_decision1.json 与 benchmarks/reports/calibration_onnx_local.json 中的 ECE 校准配置提供支撑。所有总计均含 Gate 4 的 1-Strike 重试税与在线分类器算力成本。 指标 目标 实测结果 状态 质量持平或提升(Pass@1)
= Baseline(88.6%) 100.0%(105/105,+11.4 pp) 通过 缓存完整性(第 2..N 轮 cache_read 占比) = 75.0% 93.2%(Baseline 为 26.8%,+66.4 pp) 通过 净成本压缩(含分类器与重试税) = 60.0% 降幅 76.9% 降幅($24.2967 -> $5.6089) 通过 实际耗时加速(p50 中位加速) = 1.8x 3.95x(19335.5 ms -> 4889.3 ms,平均降低 71.1%) 通过 汇总结果(3 次运行中的 105 组匹配对照) 指标 Baseline QuadGate 差值 / 配对 95% CI Pass@1 88.6%(93/105) 100.0%(105/105) +11.4 pp 预热 KV 缓存命中率(整体) 22.5% 56.3% +33.8 pp(输入 token 节省 61.0%,95% CI [57.6%, 64.4%]) 缓存完整性(第 2..N 轮) 26.8% 93.2% +66.4 pp(已达到 >= 75.0% 的目标) 输入 token 总节省 总输入 4,079,631 总输入 1,591,500 平均节省 23,696.5 tok(95% CI [22,368.3, 25,024.7] tok) 输出 token 385,593 116,631 -268,962(-69.8%) 总成本(含 $0.0091 分类器与 $0.0902 重试税) $24.2967 $5.6089 -$18.6879(降低 76.9%,95% CI [59.2%, 94.6%];平均节省 $0.1780,95% CI [$0.1371, $0.2189]) 实际耗时延迟(p50 / p90 / 平均) 19335.5 / 23837.0 / 19364.4 ms 4889.3 / 8870.1 / 5605.1 ms 平均 -13759.3 ms(p50 加速 3.95 倍,降低 71.1%,95% CI [67.1%, 75.0%]) 按套件细分(编程 + 知识,3 次运行) 套件(对数) 指标 Baseline QuadGate 配对 95% 降幅 CI / 差值 编程(60 对) Pass@1 90.0% 100.0% +10.0 pp 编程(60 对) 预热 KV 缓存命中率 21.4% 55.0% 输入节省 63.5%([59.1%, 67.9%]) 编程(60 对) 总成本 $14.8950 $2.5325 83.0%([57.6%, 108.4%]) 编程(60 对) 实际耗时(p50 / p90 / 平均) 19449.2 / 23583.5 / 19343.3 ms 5952.2 / 8891.8 / 6154.5 ms 68.2%([63.3%, 73.1%]) 知识(45 对) Pass@1 86.7% 100.0% +13.3 pp 知识(45 对) 预热 KV 缓存命中率 23.9% 57.8% 输入节省 57.8%([52.2%, 63.3%]) 知识(45 对) 总成本 $9.4018 $3.0763 67.3%([45.2%, 89.3%]) 知识(45 对) 实际耗时(p50 / p90 / 平均) 19335.5 / 23837.0 / 19392.6 ms 3814.2 / 7951.5 / 4872.5 ms 74.9%([68.4%, 81.4%]) 完整的 420 对综合压力与发布汇总(840 份在线收据) 基准集(各 105 对) Pass@1(Base -> QG) 总成本(Base -> QG) 中位延迟 p50(Base -> QG) 记分卡 Set 0:发布版编程 + 知识 88.6% -> 100.0% $24.2967 -> $5.6089(-76.9%) 19.34s -> 4.89s(3.95x) v1_release_proof.md Set 1:长上下文 KV 与 Air-Gap 74.3% -> 100.0% $36.8723 -> $7.1310(-80.7%) 31.43s -> 15.11s(2.08x) stress_set1_long_context.md Set 2:工具缓存与 ECC 路由 100.0% -> 100.0% $23.2109 -> $5.0862(-78.1%) 6.71s -> 11.89s(0.56x) stress_set2_tool_cache_routing.md Set 3:对抗鲁棒性 34.3% -> 99.0% $30.0802 -> $6.3102(-79.0%) 24.66s -> 7.90s(3.12x) stress_set3_adversarial_resilience.md 合并(420 组匹配对照) 74.3% -> 99.8%(419/420) $114.46 -> $24.14(-78.9%) 21.61s -> 8.81s(2.45x) 全部 4 个套件已在线验证(D1 总花费 $0.0966)
跨编程 + 知识套件的确定性离线干跑回放(quadgate bench --dry-replay)
python -m quadgate.cli bench --dry-replay
在线 A/B 沙箱评估(两个套件中每个任务运行 3 次)
quadgate bench --live --suite all --runs 3 60 秒快速开始 从源码安装(Python 3.11+): pip install -e ".[dev]"
可选的本地 INT8 ONNX cross-encoder 推理运行时
pip install -e ".[local]"
- Antigravity quadgate init --harness antigravity quadgate daemon start quadgate doctor 将 PreInvocation、PreToolUse(变更防火墙 + invoke_subagent 调控器)和 Stop hooks 合并进 .agents/hooks.json。 quadgate doctor 会启动一个隔离的临时守护进程,验证 < 10 ms 的环回 /v1/health、/v1/evaluate(GateVerdict)以及干净关闭。
- Claude Code quadgate init --harness claude-code quadgate daemon start 将 UserPromptSubmit、PreToolUse(Write|Edit|MultiEdit|Bash 和 Task)、Stop 以及 SubagentStop hooks 合并进 .claude/settings.json。 使用退出码 2 + stderr 实现确定性的防火墙拦截,并用 hookSpecificOutput.updatedInput 实现 Gate 3 的子代理模型覆盖。
- OpenAI Codex CLI quadgate init --harness codex quadgate exec-codex -- codex exec "Fix auth token expiry check" 写入 .codex/profile.sh,并以 OPENAI_BASE_URL=http://127.0.0.1:8788/v1 运行 codex,用于冷会话 Gate 3 路由。 在执行前评估 Stage-2A / Gate 2 命令守卫,并在退出时运行 Gate 4 轮后 diff 审计。
- MCP 客户端(Cursor、Windsurf、Cline) quadgate init --harness mcp quadgate mcp 合并 quadgate 服务器条目("command": "quadgate
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。