
研究笔记探讨开源模型推理市场份额的测量难题
来源标题:How big is the open model economy today?
Interconnects 发布首份开源模型经济研究笔记,指出当前所有关于开源模型采用情况的测量都极不精确。作者称平台指标有噪声、初创公司的营销数据不完整、公开评估也不完善,只能靠有经验的判断来近似估计市场现状。该笔记主要面向付费订阅者,AI 政策研究者可申请折扣或免费访问。
以下正文由 AI 翻译自 Interconnects(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
我运行时间最长的 agent 测试平台,一直在建设 Interconnects Dashboard——这是一个聚合全网关于开放模型采用情况和性能的最佳数据的看板。这个看板免费开放,而且正变得越来越有用。尽管如此,我们手头所有关于开放模型采用情况的度量都极其不精确。我们有噪声很大的平台指标、来自初创公司的营销类指标,以及不完美的公开评测。要判断趋势走向,需要一双有经验的眼睛。这些研究笔记是我目前对现状的最佳近似。
和 Interconnects 上的大多数事情一样,我们的目标是创造远大于我们所获取的价值,因此看板上的数据在可预见的未来将保持免费。这些笔记会比我的许多文章更原始,是一个用来分享我正在思考、但(还)没有完整证据的地方。它们将主要以付费形式提供,让我能更自由地表达。如果你从事 AI 政策或面向政策的研究,请联系我们,我们很可能可以为你提供折扣或免费访问。
我今天想探讨的主要问题是:开放模型推理的市场有多大?它在增长吗?相对于 OpenAI/Anthropic 来说,它是不是只是一个可以忽略不计的零头? 分享 我一直在尽我所能构建最好的度量,主要用开放模型推理初创公司 Baseten、Fireworks 和 Together AI 作为风向标(再加上 OpenRouter 的 token 总量中开放模型所占的份额,幸好他们在 API 中报告了这一数据)。超大规模云厂商在这里很可能也占有相当大的份额,例如 Amazon Bedrock 和 Azure 的 model garden,但我还没看到他们按模型类别拆分使用量。这些初创公司的命运与开放模型推理作为一个类别的成功,相关性要直接得多。
关于最新数据,我们可以从我在开放模型经济演讲中的一张幻灯片开始(录屏在此)。这些是开放模型初创公司随时间公开披露的 token 量,采用对数刻度。
这显示出近乎指数级的增长,随后是 GLM 5.2 在开放 agent 上带来阶跃式变化之后出现的上扬。例如,Fireworks 在本周他们的首次公司大会上宣布,他们每天为客户定制模型提供超过 40T token。这只是他们推理业务的一个切片,据他们所说,这个垂直领域自今年夏天以来增长超过 2 倍,所以我预计今年秋天我们拿到下一次更新时,他们的总量将远超 100T token。
我对这些数字的第一反应,一直是想把它们与我们能对照的任何闭源模型或超大规模公司做基准比较,至少从 token 量上来看是如此。幸好,Google 在财报中公布了整个平台和 API 使用的 token 量。我们可以把这两个数字叠加在开放模型推理平台之上,得到的结果图如下: 阅读更多
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。