
llm-cost-watch 发布:通过 MCP 让 Claude 分析 LLM 账单和延迟
来源标题:Show HN: LLM-cost-watch – Ask Claude why your LLM bill jumped
llm-cost-watch 是一个 MCP 服务器,让用户在 Claude Desktop 或 Claude Code 中直接询问 LLM 成本与延迟问题的原因。它提供 cost_by_feature、slow_calls 和 routing_suggestions 三个工具,可定位消耗最高的功能、高延迟瓶颈并给出路由优化建议。示例中它识别出某 RAG 管道占总支出 66.1%,并将一个分类功能改路由到 GPT-4o-mini 可节省 94% 费用。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
为 LLM 开销与延迟情报打造的 Model Context Protocol(MCP)服务器。
“问问 Claude,我们的 LLM 账单为什么暴涨。”
无需在复杂的 Web 仪表盘里点来点去,llm-cost-watch 让你直接在 Claude Desktop、Claude Code 或 Antigravity 中向 Claude 提问:
你:“Claude,为什么我们这周的 LLM 开销涨了 40%?延迟瓶颈又在哪里?”
Claude:[调用 llm-cost-watch:cost_by_feature 与 slow_calls]
“你的 knowledge_base_rag 流水线占总开销的 66.1%(3 次测试运行共 $0.082),并且由于未压缩的 7k token 上下文窗口,它把你的 p95 延迟推高到了 3,120ms。与此同时,customer_intent_classifier 目前为了一次 14 token 的分类任务而走 GPT-4o。将其路由到 GPT-4o-mini 可将该功能的开销削减 94%,并把 p95 延迟降至 320ms。”
3 个核心 MCP 工具 cost_by_feature(timeframe=“7d”):识别哪个功能或工作流占用了你预算的最大份额。 slow_calls(limit=5, min_latency_ms=1200):定位高延迟离群值(p50、p95、p99),并诊断瓶颈(无界 prompt 负载、递归工具循环、推理停滞)。 routing_suggestions(savings_threshold_pct=20):分析运行在昂贵前沿模型上的短结构化 prompt,并计算迁移到 Claude 3.5 Haiku 或 GPT-4o-mini 所能节省的确切金额。
快速上手(5 分钟内)
- 安装与克隆 git clone https://github.com/rohith0707/llm-cost-watch.git cd llm-cost-watch pip install -r requirements.txt
- 连接到 Claude Desktop 将以下内容添加到你的 claude_desktop_config.json:
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。