返回资讯中心
外部精选
软件工程
#开发者实时流

RTK 推出 CLI 代理,可将开发命令的 LLM token 消耗降低 60% 至 90%

来源标题:CLI proxy that reduces LLM token consumption by 60-90% on dev commands

RTK 发布一个 CLI 代理,能拦截 shell 命令并在输出进入 LLM 上下文前压缩过滤,声称在开发命令场景可减少 60% 至 90% 的 token 消耗。它基于 Rust 单二进制实现,支持 100 多条命令,额外开销低于 10 毫秒,并与具体 AI agent 无关。RTK 说明其统计的 token 数按字节除以 4 估算,且 bash 输出只是输入 token 的一部分,账单降幅不会与这一比例相同。

Hacker News 最新fagnerbrack2026/11/6 · 11 天前27 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

面向各类 Agent 的 token 优化:压缩、路由、过滤等。 一条可组合的流水线,覆盖你的 AI agent 读取和发送的所有内容——基于 RTK 经过实战检验的 bash 输出压缩(体积最多缩小 90%)。 网站 • 安装 • 故障排查 • 架构 • Discord English • Francais • 中文 • 日本語 • 한국어 • Espanol • Português rtk 在命令输出进入你的 LLM 上下文之前对其进行过滤和压缩。单个 Rust 二进制文件,支持 100+ 命令,开销低于 10ms。 Angular 构建可通过 rtk ng build 支持:紧凑的构建表格,保留每个 bundle 和诊断信息。 RTK 拦截 shell 命令,并在你的 agent 读取之前压缩其输出。 RTK 减少的是你的 agent 读取的 bash 输出。这是 RTK 所衡量的内容,它并不等同于把账单削减相同的幅度。 Bash 输出只是输入 token 的来源之一,此外还有你的 prompt、system prompt 和对话历史。而输入 token 又只是账单的一部分,账单还包括输出 token。这种缩减在每一步都会被稀释。 RTK 报告的 token 数按 bytes / 4 估算——RTK 不附带 tokenizer,因此百分比可靠,但绝对 token 数是近似值。 brew install rtk # macOS / Linux winget install rtk-ai.rtk # Windows curl -fsSL https://raw.githubusercontent.com/rtk-ai/rtk/refs/heads/master/install.sh | sh 然后确认你装的是正确的包——crates.io 上存在另一个名为 "rtk" 的项目: rtk --version # 任意当前版本 rtk gain # 必须显示节省仪表盘,而不是 "command not found" Cargo、预编译二进制、原生 Windows、WSL 以及卸载:安装指南 RTK 以三种下载形式发布。两个 rtk 版本安装的是同名二进制文件——hooks、脚本和 agent 配置在两者之间无需改动即可使用——因此它们不能同时安装。安装其中一个之前请先卸载另一个。 flowchart TD agent["Your coding agent"] subgraph editions["Pick one · both install a binary named rtk"] direction LR full["<b>rtk</b><br/>Apache-2.0 + BUSL-1.1<br/>hooks · filters · engine"] oss["<b>rtk-oss</b><br/>Apache-2.0 only<br/>hooks · filters"] end proxy["<b>rtk-proxy</b><br/>BUSL-1.1<br/>compresses API traffic"] agent -->|"command output"| full agent -->|"command output"| oss agent -.->|"API traffic"| proxy classDef apache stroke:#2da44e,stroke-width:2px,fill:none classDef busl stroke:#0969da,stroke-width:2px,fill:none classDef mixed stroke:#8250df,stroke-width:2px,fill:none classDef plain stroke:#8c959f,stroke-width:1px,fill:none class full mixed class oss apache class proxy busl class agent plain style editions fill:none,stroke:#d0d7de,stroke-dasharray:4 4 Loading 下载 许可证 包含内容 rtk-<target> Apache-2.0 + BUSL-1.1 Hook 核心、所有命令过滤器以及压缩引擎 rtk-oss-<target> 仅 Apache-2.0 Hook 核心和所有命令过滤器。无引擎。 rtk-proxy-<target> BUSL-1.1 RTK Proxy 守护进程。从不与任一 rtk 捆绑。 生产使用免费,包括引擎和守护进程。BUSL 授权不覆盖的是将 RTK 或其衍生物作为商业产品或服务提供给第三方——如有此需求,请联系 contact@rtk-ai.app。 curl -fsSL .../install.sh | RTK_EDITION=oss sh # Apache-2.0 edition brew install rtk-ai/tap/rtk-oss Apache-2.0 版本省略了什么、许可证边界在哪里:版本与许可

1. Install for your AI tool

rtk init -g # Claude Code / Copilot (default) rtk init -g --gemini # Gemini CLI rtk init -g --codex # Codex (OpenAI) rtk init -g --agent cursor # Cursor rtk init -g --agent windsurf # Windsurf rtk init --agent cline # Cline / Roo Code rtk init --agent kilocode # Kilo Code rtk init --agent antigravity # Google Antigravity rtk init --agent kimi # Kimi AI rtk init -g --agent pi # Pi rtk init --agent omp # Oh My Pi (OMP) rtk init --agent hermes # Hermes rtk init -g --agent droid # Factory Droid rtk init --agent trae # Trae (project: .trae/hooks.json) rtk init -g --agent trae # Trae global: ~/.trae and existing ~/.trae-cn

2. Restart your AI tool, then test

git status # Automatically rewritten to rtk git status agent 会收到紧凑的输出,而无需显式调用 rtk。 该 hook 只在 Bash 工具调用时触发。Read、Grep 和 Glob 等内置工具不会经过它。请使用 shell 命令(cat、rg、find),或直接调用 rtk read、rtk grep、rtk find。 各 agent 的配置、--dry-run 以及卸载:快速开始 · 支持的 Agent 不用 rtk 时:用 rtk 时: Claude --git status--> shell --> git Claude --git status--> RTK --> git ^ | ^ | | | full raw output | | compact output | filter | +-----------------------------------+ +------- (filtered) ---+----------+ 按命令类型应用四种策略: RTK 会破坏 Claude 的 prompt 缓存吗?不会。RTK 对每条命令只过滤一次输出。结果会存入历史记录,并在后续 API 调用中正常缓存,因此缓存会按预期继续工作。更小的输出也意味着更便宜的缓存写入和读取。详情见故障排查。 RTK 支持 18 种 AI 编码工具。每个集成都把 shell 命令重写为 rtk 等价命令,在 agent 支持命令拦截的前提下减少 agent 读取的 bash 输出。 各 agent 的配置细节、覆盖控制以及优雅降级,见支持的 Agent 指南。Hermes 插件的源码和测试位于 hooks/hermes/;已安装的 Hermes 运行时文件仍位于 ~/.hermes/plugins/rtk-rewrite/ 下。 覆盖 Git、GitHub CLI、Cargo/Rust、JavaScript(npm、pnpm、vitest、jest、tsc、Next.js、Playwright、Prisma)、Python(ruff、pytest、mypy、pip)、Go(go test、golangci-lint)、Ruby、.NET、JVM(Gradle、Maven)、PHP、Docker、Kubernetes、AWS、Terraform 以及文件/搜索内置命令的 100+ 命令。 -v, --verbose # 提高详细程度(-v、-vv、-vvv) rtk bypass <cmd> # 不经过滤地运行一条命令,仍会被追踪 每条命令及其对应过滤器:RTK 优化什么

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →