返回资讯中心
外部精选
软件工程
#开发者实时流

llm-cost-watch 发布:通过 MCP 让 Claude 分析 LLM 账单和延迟

来源标题:Show HN: LLM-cost-watch – Ask Claude why your LLM bill jumped

llm-cost-watch 是一个 MCP 服务器,让用户在 Claude Desktop 或 Claude Code 中直接询问 LLM 成本与延迟问题的原因。它提供 cost_by_feature、slow_calls 和 routing_suggestions 三个工具,可定位消耗最高的功能、高延迟瓶颈并给出路由优化建议。示例中它识别出某 RAG 管道占总支出 66.1%,并将一个分类功能改路由到 GPT-4o-mini 可节省 94% 费用。

Hacker News 最新rohith07072026/11/8 · 今天4 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

为 LLM 开销与延迟情报打造的 Model Context Protocol(MCP)服务器。 “问问 Claude,我们的 LLM 账单为什么暴涨。” 无需在复杂的 Web 仪表盘里点来点去,llm-cost-watch 让你直接在 Claude Desktop、Claude Code 或 Antigravity 中向 Claude 提问: 你:“Claude,为什么我们这周的 LLM 开销涨了 40%?延迟瓶颈又在哪里?” Claude:[调用 llm-cost-watch:cost_by_feature 与 slow_calls] “你的 knowledge_base_rag 流水线占总开销的 66.1%(3 次测试运行共 $0.082),并且由于未压缩的 7k token 上下文窗口,它把你的 p95 延迟推高到了 3,120ms。与此同时,customer_intent_classifier 目前为了一次 14 token 的分类任务而走 GPT-4o。将其路由到 GPT-4o-mini 可将该功能的开销削减 94%,并把 p95 延迟降至 320ms。”

3 个核心 MCP 工具 cost_by_feature(timeframe=“7d”):识别哪个功能或工作流占用了你预算的最大份额。 slow_calls(limit=5, min_latency_ms=1200):定位高延迟离群值(p50、p95、p99),并诊断瓶颈(无界 prompt 负载、递归工具循环、推理停滞)。 routing_suggestions(savings_threshold_pct=20):分析运行在昂贵前沿模型上的短结构化 prompt,并计算迁移到 Claude 3.5 Haiku 或 GPT-4o-mini 所能节省的确切金额。

快速上手(5 分钟内)

  1. 安装与克隆 git clone https://github.com/rohith0707/llm-cost-watch.git cd llm-cost-watch pip install -r requirements.txt
  2. 连接到 Claude Desktop 将以下内容添加到你的 claude_desktop_config.json:

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →