返回资讯中心
外部精选
软件工程
#开发者实时流

Tracarbon 开源工具可追踪本地 LLM 能耗与碳排放

来源标题:Measure the energy and CO2 of local LLMs

Tracarbon 是一个 Python 库和 CLI 工具,能追踪设备能耗并估算碳排放。它可自动识别设备和位置,支持命令行运行或通过 Python API 集成,并提供 Datadog、Prometheus、Kubernetes 等导出器。总碳排放量基于采集到的样本计算。

Hacker News 最新fvaleye2026/11/3 · 14 天前12 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Tracarbon 是一个 Python 库和 CLI 工具,用于追踪设备的能耗并估算碳排放量。它会自动检测你的设备和所在位置。你可以从命令行运行它来采集并导出测量数据,也可以通过 Python API 将追踪功能集成到自己的应用中。

安装 Tracarbon

pip install tracarbon

从列表中选择安装一个或多个导出器

pip install 'tracarbon[datadog,prometheus,kubernetes]' 🔎 用法 命令行 tracarbon run 在命令运行期间测量本机的能耗和碳排放: tracarbon exec -- python generate.py Python API from tracarbon import TracarbonBuilder, TracarbonConfiguration configuration = TracarbonConfiguration() # 你的配置 tracarbon = TracarbonBuilder(configuration=configuration).build() tracarbon.start()

你的代码

total_co2g = tracarbon.stop() # 运行期间排放的 CO2 克数 with tracarbon: ... # 你的代码 report = tracarbon.report # 获取报告 print(report.total_co2g) 当未采集到主机碳排放指标时,total_co2g 为 None。该总量反映的是已采集样本的累计值。 如需获取最新的电力碳强度,请申请 Electricity Maps API 密钥,并在环境变量或 .env 文件中设置 TRACARBON_CO2SIGNAL_API_KEY,或者向 TracarbonConfiguration 传入 co2signal_api_key。 没有密钥时,Tracarbon 会使用内置数据,覆盖受支持的国家和云区域。 如需在不使用 IP 地理位置的情况下使用内置国家数据,请显式指定国家: TRACARBON_CO2SIGNAL_API_KEY= tracarbon run --country-code-alpha-iso-2 fr Python 示例、刷新间隔以及 API 请求失败时的行为,请参阅文件和 API 配置。 tracarbon run --exporter-name Prometheus --containers 指标名称、标签和单位请参阅 Prometheus 指标参考。 在 Kubernetes 中运行时,请在每个节点上部署 Tracarbon,并通过 Downward API 将 NODE_NAME 设置为 spec.nodeName,以便容器指标限定在实测节点范围内。 tracarbon run --pid 1234 在 Python 中跟踪当前进程: with TracarbonBuilder().with_processes().build() as tracker: run_workload() print(tracker.report.process_co2g) 每个进程及其子进程会按比例分得主机 CPU 能耗和碳排放。请参阅进程指标。 主机 设备 说明 Mac ✅ 通过 IOReport 获取 Apple Silicon GPU 能耗(无需 sudo),并在可用时提供 CPU、内存和 Neural Engine 能耗。不包含显示器和外设。回退方案:powermetrics(需要 sudo),再回退到 ioreg 获取整机系统功耗。 Linux ✅ 通过 RAPL 获取 Intel 和 AMD 功耗。CPU 功耗为整个封装,可能包含集成 GPU。AMD 需要内核 5.11+(powercap)或 amd_energy(HWMON)。若 RAPL 权限不可读,则仅能获取 GPU 读数,主机功耗和排放量仍然未知。 Windows ✅ 通过 nvidia-smi 获取 NVIDIA GPU 功耗。CPU、内存和主机总量不可用。 云服务商 云服务商 说明 AWS ✅ 结合硬件使用情况与 cloud-carbon-coefficients 的 EC2 实例碳排放数据集进行估算。 GCP ✅ 结合硬件使用情况与 cloud-carbon-coefficients 的 GCP 实例及系数(Apache-2.0,2026-04-24)进行估算,数据由 scripts/generate_gcp_instances.py 生成。 Azure ✅ 结合硬件使用情况与 cloud-carbon-coefficients 的 Azure 实例碳排放数据集进行估算。 🎮 GPU 功耗追踪 GPU 说明 NVIDIA ✅ 通过 nvidia-smi 支持。适用于 Linux、Windows 和 Intel Mac。支持多 GPU。 AMD ✅ 在 Linux 上通过 rocm-smi 或 amd-smi 支持。支持多 GPU。 Apple Silicon ✅ 通过 IOReport 获取集成 GPU 功耗,无需 sudo。回退到 powermetrics(需要 sudo)。 Intel ❌ 尚未实现。 📡 导出器 导出器 说明 Stdout 通过应用的 Loguru 处理器记录指标(CLI 中输出到 stderr)。 JSON 默认写入 JSON 数组,若路径以 .jsonl 结尾则写入 JSON Lines。 Prometheus 暴露 HTTP 端点供 Prometheus 抓取。 Datadog 将指标发送到 Datadog。 JSON 文件、JSON Lines 和 Prometheus 抓取的示例请参阅导出器示例。 位置 说明与来源 全球 通过 CO2Signal 或 ElectricityMaps API 近实时获取最新的 co2g/kwh。可用的 Electricity Maps 查询模式参见此处。 CO2Signal API 或 ElectricityMaps 受支持的国家 内置数据集包含 200 多个国家最新的年度全生命周期电力碳强度,无需 API 密钥即可使用。 Ember via Our World in Data,CC BY 4.0 AWS AWS 电网排放因子的静态文件。 cloud-carbon-coefficients GCP GCP 电网排放因子的静态文件(2025 年度数据)。 GoogleCloudPlatform/region-carbon-info Azure Azure 电网排放因子的静态文件。 cloud-carbon-coefficients ⚙️ 配置 在环境变量或 .env 文件中设置以下变量。配置详情请参阅配置说明。 本地开发:使用 uv make init make test-unit 🛡️ 许可证 Apache License 2.0

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →