Marktechpost 推出 GPU Leaderboard 云 GPU 比价平台及配套 Chrome 扩展
来源标题:Marktechpost AI Launches GPU Leaderboard and the Deploy It Chrome Extension
Marktechpost 上线 GPU Leaderboard,免费提供面向 AI 推理的云 GPU 价格对比,并同步发布 Chrome 扩展 Deploy It 展示同样的数据。该平台从各服务商自身定价页抓取按需与竞价价格,按每 GPU-小时价格对可租用 GPU 排名。其成本计算器可按加速器、卡数、时长和利用率估算整次推理运行的总费用。
以下正文由 AI 翻译自 MarkTechPost(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Marktechpost 推出了 GPU Leaderboard,这是一个面向 AI 推理的免费云 GPU 价格比较工具。同时发布的还有 GPU Leaderboard: Deploy It,一款提供相同数据的 Chrome 扩展程序。该网站从各提供商自己的定价页面读取按需和竞价价格。目标很简单:在一个地方回答“我需要什么 GPU,哪里最便宜?”
什么是 GPU Leaderboard?
GPU Leaderboard 是一个定价仪表板,按每 GPU 小时价格对可租用的云 GPU 进行排名。它专为运行推理的团队打造。 v1 应用包含 4 个视图:
- 推理定价:一个计算完整运行成本的计算器,而非单一的每小时费率。
- 排行榜:所有报价按 $/GPU-hr 排名,可按 GPU、层级、地区和可用性筛选。
- 最便宜的推理:每个被跟踪 GPU 的最低按需价格底线。
- 提供商:一个目录,包含实例数量、地区、状态页面事件和价格检查历史。
GPU 推理成本计算器如何工作?
你选择加速器、GPU 数量、时长和利用率。然后计算器会为每个提供商计算该次运行的确切价格。可选的模型字段可缩小列表范围。 默认示例是 8×H100 运行 72 小时,利用率为 90%。这计费 576 GPU 小时。最便宜的结果是 Latitude 的 967.68 美元,每 GPU 小时 1.68 美元。15 个提供商的中位数为 1,716.48 美元。最贵的是 CoreWeave 的 3,545.28 美元。 计算器还显示每实际使用 GPU 小时的“真实”成本。空闲时间仍然计费,因此 90% 利用率下的 1.68 美元变为 1.87 美元。这是大多数预算表遗漏的数字。
Deploy It Chrome 扩展程序做什么?
GPU Leaderboard: Deploy It 将价格数据带到开发者选择模型的地方。根据其商店列表,它适用于 3 个场景:
- Hugging Face 模型页面:检测模型大小并估算 FP16、INT8 和 INT4 下的 VRAM。然后显示适合的最便宜每小时 GPU。
- GitHub 仓库:检测模型引用并就地给出硬件估算。
- 工具栏查询:从浏览器工具栏搜索任何模型或 GPU。
关键要点
- GPU Leaderboard 按 $/GPU-hr 对来自 24 个提供商的 201 个实时 GPU 报价进行排名。
- 其计算器计算完整运行成本,包括按你的利用率计算的空闲时间。
- Deploy It 在 Hugging Face 和 GitHub 上显示 VRAM 需求和最便宜的 GPU。
- 一次 8×H100、72 小时的运行在多个提供商之间的价格从 967.68 美元到 3,545.28 美元不等。
- 与较早的跟踪器相比,覆盖范围和每日刷新是主要差距。 在 gpuleaderboard.com 试用,并从 Chrome Web Store 安装 Deploy It 扩展程序。 文章 Marktechpost AI Launches GPU Leaderboard and the Deploy It Chrome Extension 首次出现在 MarkTechPost 上。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。