
Tracarbon 开源工具可追踪本地 LLM 能耗与碳排放
来源标题:Measure the energy and CO2 of local LLMs
Tracarbon 是一个 Python 库和 CLI 工具,能追踪设备能耗并估算碳排放。它可自动识别设备和位置,支持命令行运行或通过 Python API 集成,并提供 Datadog、Prometheus、Kubernetes 等导出器。总碳排放量基于采集到的样本计算。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Tracarbon 是一个 Python 库和 CLI 工具,用于追踪设备的能耗并估算碳排放量。它会自动检测你的设备和所在位置。你可以从命令行运行它来采集并导出测量数据,也可以通过 Python API 将追踪功能集成到自己的应用中。
安装 Tracarbon
pip install tracarbon
从列表中选择安装一个或多个导出器
pip install 'tracarbon[datadog,prometheus,kubernetes]' 🔎 用法 命令行 tracarbon run 在命令运行期间测量本机的能耗和碳排放: tracarbon exec -- python generate.py Python API from tracarbon import TracarbonBuilder, TracarbonConfiguration configuration = TracarbonConfiguration() # 你的配置 tracarbon = TracarbonBuilder(configuration=configuration).build() tracarbon.start()
你的代码
total_co2g = tracarbon.stop() # 运行期间排放的 CO2 克数 with tracarbon: ... # 你的代码 report = tracarbon.report # 获取报告 print(report.total_co2g) 当未采集到主机碳排放指标时,total_co2g 为 None。该总量反映的是已采集样本的累计值。 如需获取最新的电力碳强度,请申请 Electricity Maps API 密钥,并在环境变量或 .env 文件中设置 TRACARBON_CO2SIGNAL_API_KEY,或者向 TracarbonConfiguration 传入 co2signal_api_key。 没有密钥时,Tracarbon 会使用内置数据,覆盖受支持的国家和云区域。 如需在不使用 IP 地理位置的情况下使用内置国家数据,请显式指定国家: TRACARBON_CO2SIGNAL_API_KEY= tracarbon run --country-code-alpha-iso-2 fr Python 示例、刷新间隔以及 API 请求失败时的行为,请参阅文件和 API 配置。 tracarbon run --exporter-name Prometheus --containers 指标名称、标签和单位请参阅 Prometheus 指标参考。 在 Kubernetes 中运行时,请在每个节点上部署 Tracarbon,并通过 Downward API 将 NODE_NAME 设置为 spec.nodeName,以便容器指标限定在实测节点范围内。 tracarbon run --pid 1234 在 Python 中跟踪当前进程: with TracarbonBuilder().with_processes().build() as tracker: run_workload() print(tracker.report.process_co2g) 每个进程及其子进程会按比例分得主机 CPU 能耗和碳排放。请参阅进程指标。 主机 设备 说明 Mac ✅ 通过 IOReport 获取 Apple Silicon GPU 能耗(无需 sudo),并在可用时提供 CPU、内存和 Neural Engine 能耗。不包含显示器和外设。回退方案:powermetrics(需要 sudo),再回退到 ioreg 获取整机系统功耗。 Linux ✅ 通过 RAPL 获取 Intel 和 AMD 功耗。CPU 功耗为整个封装,可能包含集成 GPU。AMD 需要内核 5.11+(powercap)或 amd_energy(HWMON)。若 RAPL 权限不可读,则仅能获取 GPU 读数,主机功耗和排放量仍然未知。 Windows ✅ 通过 nvidia-smi 获取 NVIDIA GPU 功耗。CPU、内存和主机总量不可用。 云服务商 云服务商 说明 AWS ✅ 结合硬件使用情况与 cloud-carbon-coefficients 的 EC2 实例碳排放数据集进行估算。 GCP ✅ 结合硬件使用情况与 cloud-carbon-coefficients 的 GCP 实例及系数(Apache-2.0,2026-04-24)进行估算,数据由 scripts/generate_gcp_instances.py 生成。 Azure ✅ 结合硬件使用情况与 cloud-carbon-coefficients 的 Azure 实例碳排放数据集进行估算。 🎮 GPU 功耗追踪 GPU 说明 NVIDIA ✅ 通过 nvidia-smi 支持。适用于 Linux、Windows 和 Intel Mac。支持多 GPU。 AMD ✅ 在 Linux 上通过 rocm-smi 或 amd-smi 支持。支持多 GPU。 Apple Silicon ✅ 通过 IOReport 获取集成 GPU 功耗,无需 sudo。回退到 powermetrics(需要 sudo)。 Intel ❌ 尚未实现。 📡 导出器 导出器 说明 Stdout 通过应用的 Loguru 处理器记录指标(CLI 中输出到 stderr)。 JSON 默认写入 JSON 数组,若路径以 .jsonl 结尾则写入 JSON Lines。 Prometheus 暴露 HTTP 端点供 Prometheus 抓取。 Datadog 将指标发送到 Datadog。 JSON 文件、JSON Lines 和 Prometheus 抓取的示例请参阅导出器示例。 位置 说明与来源 全球 通过 CO2Signal 或 ElectricityMaps API 近实时获取最新的 co2g/kwh。可用的 Electricity Maps 查询模式参见此处。 CO2Signal API 或 ElectricityMaps 受支持的国家 内置数据集包含 200 多个国家最新的年度全生命周期电力碳强度,无需 API 密钥即可使用。 Ember via Our World in Data,CC BY 4.0 AWS AWS 电网排放因子的静态文件。 cloud-carbon-coefficients GCP GCP 电网排放因子的静态文件(2025 年度数据)。 GoogleCloudPlatform/region-carbon-info Azure Azure 电网排放因子的静态文件。 cloud-carbon-coefficients ⚙️ 配置 在环境变量或 .env 文件中设置以下变量。配置详情请参阅配置说明。 本地开发:使用 uv make init make test-unit 🛡️ 许可证 Apache License 2.0
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。