返回资讯中心
外部精选
软件工程
#工程实践#架构

刚亮相就传被英伟达收购:Gemini老兵团队凭什么还敢押注Coding Agent?

前不久,Reflection AI 发布首个开放权重模型 Beam,声称对标中国开源模型。之后不到一周,这家被网友戏称为“美国版 DeepSeek”的公司,就传出了拟被英伟达收购的消息。

InfoQ 中国林绮蓓2026/10/13 · 13 天前30 分钟阅读中文

以下正文同步自 InfoQ 中国,版权归原站所有,已转换为易读排版。

前不久,Reflection AI 发布首个开放权重模型 Beam,声称对标中国开源模型。之后不到一周,这家被网友戏称为“美国版 DeepSeek”的公司,就传出了拟被英伟达收购的消息。

据《金融时报》报道,双方正在洽谈进一步投资或收购事宜,可能的交易形式还包括聘用团队并获得技术授权。目前,谈判仍处于早期阶段,尚未达成协议,双方也未就该报道公开回应。

作为 Reflection AI 的重要投资方,英伟达此次寻求深化合作,让这家专注于开放模型的创业公司及其技术路线受到更多关注。

Reflection AI 是一家致力于构建前沿开放模型的初创公司,由前 Google DeepMind 研究人员 Misha Laskin 和 Ioannis Antonoglou 于 2024 年创立。公司在 10 月初公布的首个开放权重模型 Beam,直接对标中国模型在开放生态中的领先水平。

Beam 采用稀疏混合专家(MoE)架构,总参数量为 5010 亿,激活参数量为 230 亿,重点面向编程、推理和智能体任务。根据 Reflection AI 公布的评测,Beam 在部分高级推理基准上达到与 GLM-5.2 相近的表现,所需推理计算量约为后者的三分之一至四分之一;面对 Kimi K3 等能力更强的开放模型,其主要竞争点则是推理效率。按照公布时的计划,模型权重及配套技术资料将于 10 月内开放,当前提供早期访问申请。

10 月 10 日,Reflection AI 联合创始人兼 CEO Misha Laskin 做客科技播客《NO PRIORS》。他提出,开放模型会成为重要的 AI 基础设施,而强化学习、企业定制和开放生态将共同推动下一阶段的发展。

谈到中国开放模型的领先,Misha 将其称为给全球开发者的一份“礼物”。Reflection AI 决定自己做预训练,部分原因正是团队需要一个强大的开放底座,却发现优秀的选择主要来自中国。他认为,中国模型会继续保持竞争力,但开放模型应该保持多元竞争的生态。此外,竞争也不止于模型能力:当企业和国家围绕某个模型构建应用,后续可能逐步采用与之配套的芯片、软件和基础设施。

有竞争力的开放模型,可能影响未来的算力部署和软硬件选择。沿着这一逻辑,英伟达对 Reflection AI 的兴趣就多了一层值得关注的思考维度。

A:我们最初想在已有开放模型上,通过强化学习让系统具备智能体能力。但后来发现,优秀的开放模型主要来自中国,而我们需要一个强大的模型底座。与此同时,研究也表明,要让大规模强化学习取得好效果,就需要自己做预训练,两者联系非常紧密。

A:所有事情都很难。你得把事情都做对:招人、留人、拿到数据和算力,还要搭好基础设施,让团队朝同一个方向努力。在 DeepMind,很多工具已经成熟到让研究人员觉得理所当然;创业之后,这些都得从头建设。我们大约一年内从 30 人发展到 300 人,才逐步具备完整的模型研发能力。

A:追赶时不一定。研究可以分为探索新想法和落实已知有效的方法,优秀人才可以减少不必要的探索,提高资金使用效率。但真正走到最前沿,就需要相应规模的资源。资本投入终究有上限,好在算力效率也在提高,模型本身正在帮助我们构建更好的模型。

A:编程和智能体能力是基础,但模型的能力并不均匀,换一个任务或运行框架,未必能顺畅适应。有了合适的数据,它又能很快改善。因此,关键是找到有价值的业务,建立好的评估,再通过合成数据和定制,让模型在成本与效果之间取得更好的平衡,不一定要直接使用客户数据训练。

A:开放模型和闭源模型都希望扩大推理业务。模型许可宽松,不代表部署它不需要成本:客户还需要推理软件、集群管理、运行框架和算力。我们帮助企业把这些配套搭起来,做成有价值的应用,再由应用带动持续的推理需求。服务的价值就在于帮助客户真正用起来。

A:通常先“租用智能”,再考虑“拥有智能”。企业往往已经在闭源模型上跑起了一定规模的业务,才会因为成本和控制权考虑自主部署。但我认为,多数企业首先会定制系统,比如围绕模型搭建适合业务的智能体工作流,等应用和数据积累成熟后,再逐步进行模型微调。

A:这是对全球有益的事,可以说是一份礼物。许多西方公司因此能建立更可持续的业务,减少对闭源供应商的依赖。我认为中国模型会继续保持优秀,但开放模型应该保持多元的竞争生态。西方也需要建立起有竞争力的生态,让市场拥有更多选择和竞争。

A:只有模型还不够,使用者还需要配套的软件和基础设施。一个国家采用某个模型之后,可能逐渐采用与之配套的整套技术,并与供应方的供应链深度绑定。因此,模型带来的影响会延伸到芯片和数据中心。任何国家都希望其他国家在自己的技术之上构建产品,这会带来商业和地缘政治优势。

A:这种担忧是合理的,但不能只从封闭的角度理解安全。少数实验室里的几百名研究人员,很难覆盖所有潜在漏洞。我相信,让更多研究者参与发现和修补问题,有助于改善安全。尤其在网络安全中,攻击和防御能力很难分开,移除攻击能力,也可能让愿意参与防御的人失去工具。

A:要区分已经发生、近期可以预见的风险,以及更理论化的情景。我倾向于优先处理现实问题。对齐没有一个神奇方程,很多工作就是发现缺陷,再用数据和算法逐一修补。随着系统变强,我们当然要关注意外后果,但这也意味着需要更多人参与实际的检测和修复。

A:完成同样的工作,可能需要更少的人,但我们想做的事情也在扩大,所以仍然觉得人手不足。模型能加快计算、实验和基础设施工作,人类还需要判断哪些环节可以交给它,哪些需要创造力。更大的需求会出现在应用端:企业需要懂模型、懂评估、能到现场解决实际问题的工程师,而这类人才还需要大量培养。

主持人:今天来到我们节目的,是 Reflection AI 联合创始人兼 CEO Misha Laskin。Reflection 致力于提供开放权重模型,希望以此推动智能的未来发展。Misha 此前曾在 Google DeepMind 担任研究员,并取得了物理学博士学位。Misha,能否先向我们介绍一下你们的最新进展?你们一直在开放权重模型和开源模型上开展很有意思的探索,尤其关注在美国推动这些工作。能否谈谈你们最近在忙什么,又在构建怎样的东西?

Misha Laskin: 过去 12 个月里,我们把公司的使命确立为:构建前沿开放智能,让尽可能多的人能够使用它。实际上,这段时间我们一直在全力冲刺,建立一个真正有能力做成这件事的实验室。

这让我想起里德·霍夫曼可能说过的一句话:一边开飞机,一边换轮胎。我们的经历确实如此。大约一年前,我们可能只有 30 人左右,但要做出这样的模型,确实需要一百多、甚至几百名研究人员和工程师。这真是一项堪比造火箭的项目。现在我们大约有 300 人,预训练、中期训练和强化学习各个方向的团队都已组建起来,也已经端到端地训练出了第一批模型。我们刚刚发布了一个名为 Beam 的模型,它是 Reflection 的第一个开放模型。

主持人: 这个过程中,最有挑战的是什么?谈到扩大模型规模,或者从头开始构建这些模型,人们通常会提到几个问题。首先是算力,如何获得足够多的算力,尤其是搭建一个能真正协同运作、有效使用的训练集群。其次是人才,显然,各家公司为了争夺研究人员,已经在薪酬上展开了激烈竞争。然后是数据规模。这几项之中,哪一项对你们的限制最大,或者最难解决?

Misha Laskin: 有意思的是,在公司的一次全员会上,也有人问过我同样的问题:“过去一年,最难的事情是什么?”实际情况是,每一件事都极其困难。有人可能会问:“到底是什么,让你们的模型比其他模型表现得更好?”答案同样是所有环节。你实际上得把 30 件事都做对。这也正是困难所在:这 30 件事,你必须样样都做好。你得招到优秀的人才,还得留住他们;你得有足够强的使命感和团队文化,让大家能够协同工作,同舟共济,朝着同一个方向努力。

你得拿到数据,得拿到算力,还得搭好基础设施,确保这些算力真正用得起来。在成熟的大型实验室里,很多东西已经建设了多年,才形成了相对稳定的基础。我此前在 DeepMind 工作,那些我们平时觉得理所当然的工具,或者说,我作为研究员,因为它们一直都能正常运作而觉得理所当然的工具,到了这里,都得自己从头搭建。所以我的回答是,每一件事情都很难;但能亲手把它们做成,会带来非常大的成就感。

主持人: 你刚才说,大约一年前,你们才真正下定决心做这件事。能否谈谈你们的目标和投入决心发生了怎样的变化,又是什么促成了这种转变?

Misha Laskin: 谈论这个转变的促成之前,我想先交代一下两年前创办公司的背景。我和联合创始人 Ioannis 一直在参与第一批 Gemini 模型的研发。我们都在强化学习团队,团队由 Ioannis 负责。当时,我们先后发布了 Gemini 1 和 Gemini 1.5。那个早期阶段的模型,体验跟最初的 ChatGPT 很像,主要就是聊天。基本上没有真正的编程能力,也没有智能体能力,这些模型只是比较擅长聊天。它们主要还是预训练模型,95% 的算力都花在了预训练上。我们则一直做强化学习,这是我们做研究的来时路。我的联合创始人 Ioannis 是 DeepMind 最早的一批创始工程师之一,参与了实验室所有重要的强化学习项目,包括 AlphaGo,并作出了关键贡献。

我们当时的判断是,既然我们在强化学习团队里已经看到,强化学习能够有效地对聊天模型进行对齐,那么就可以把同样的方法应用到数学、编程等领域,让这些系统具备智能体能力。这就是我们最核心的押注。

我们认为,独立实验室也能做成这件事,而且资金使用效率可以高得多,因为当时开源模型已经开始涌现。Mistral 发布了一个小模型,Llama 2 刚刚发布,我们也看到了 Llama 3 即将到来。我想那应该是两年前的事情。

公司成立后的第一年,首先发生的一件事是,无论在我们自己的实验中,还是在整个行业里,强化学习都比我们预想地更快取得了成效。o1 就是在那个时期发布的。我们本来以为还要等更久,因为从 2012 年的 ImageNet,到强化学习系统真正能够在大规模上有效运行,中间大约经历了四年,所以我们以为这次可能也需要差不多的时间。但每一年的实际进展,都比我上一年作出的预测更快。

公司成立大约一年后,我们发现,优秀的开放模型都来自中国,西方并没有真正出色的开放模型。而我们正在研发的技术,需要一个这样的模型作为基础。综合多方面的原因,结合当时的局势,我们决定,最有影响力的事情,就是自己端到端地构建开放模型,把对强化学习的押注与完整的模型研发结合起来。

这其中有企业需求方面的原因,有地缘政治方面的原因,也有研究方面的原因:我们后来发现,如果想让强化学习在大规模上取得非常好的效果,确实需要自己做模型的预训练。这两件事都得做,因为它们之间的联系实在太紧密了。

主持人: 传统观点一直认为,要在前沿模型的规模上做预训练,成本高得令人难以承受,至少也是极其昂贵的。显然,现在已经有大量算力转向后训练。当时你们如何考虑所需的资源,以及不同阶段之间的资源分配比例?你们有没有某些模型设计的原则,让你们一开始就觉得这件事可行?还是说,你们只是决定:“这件事必须做,资源我们再去想办法解决”?

Misha Laskin: 做开放模型实验室的一大好处,就是这些事情也可以公开谈。要做出有意义的东西,确实需要大量资源,但并不意味着一开始就需要和前沿实验室同等规模的资源。等你真正到了智能发展的最前沿,才需要和其他前沿实验室同等规模的资源。

你可以把研究分成两部分:探索新的想法,以及落实已知有效的想法。优秀人才之所以那么重要,部分原因就在于,他们能减少不必要的探索,让你集中精力执行那些行之有效的方法。如果目标是追赶前沿,那么你完全可以用高得多的资金效率来完成。

Misha Laskin: 我觉得要看情况,因为前沿一直在向前进步。实际上,每一年所需的资金都在增加。我稍后再回到预训练和后训练之间的资源分配问题。大约一年前,或者 18 个月前,所需资金应该还是几亿美元这个量级。而现在,甚至六个月前,大概就已经到了几十亿美元的量级,还没到一百亿美元。到了明年,我认为会进入一百亿美元的量级。

可以这样理解:模型每迭代一代,算力规模大约就会变成原来的四倍。我有一个粗略的判断方法,就是看当时最先进的芯片。几年前可能是 H100,规模可能是十万块 H100。后来训练 Astra,用的是十万块 Blackwell 进行了一次大规模训练,相比 H100,算力大约又增加到了四倍。我相信下一代大概会用十万块 Vera Rubin。 这样就能大致理解规模的变化:从几亿美元,到几十亿美元,再到几百亿美元。

主持人: 不过,这种增长到了某个阶段,似乎一定会逐渐接近上限。因为相对于这些公司的收入规模,甚至潜在收入规模,从最终能够创造的经济价值来看,它们继续投入的能力总会触及极限。所以,你认为模型规模,或者至少训练集群的规模,正在接近这个上限吗?

Misha Laskin: 完全是这样。资本开支毕竟有上限。现在前沿实验室已经投入几千亿美元,未来一两年,它们会投入几万亿美元吗?恐怕不太可能。不过,有几件事正在发生,其中一件就是,算力的使用效率正在大幅提高,因为模型本身正在变成帮助构建模型的工具。

当研究完全由人类研究人员完成时,效率每年可能提升七倍左右。这些变化是可以用相当严格的技术方法追踪的。以预训练为例,你先有一个预训练损失,再以此衡量算力效率的提升。做出一些改动后,你得到新的预训练损失曲线,理想情况下,应该能够用更少的算力达到同样的水平。所以,所谓七倍,实际上是一个非常具体、可以研究的指标。放到整个系统来看,预训练可能已经比较成熟,但强化学习还有很大的提升空间。我们现在的效率可能已经到提升至原来的三十倍的阶段,这具体取决于模型在改进自身方面究竟有多强。这是正在发生的一件事。

Misha Laskin: 每一代模型。要看具体衡量什么指标。但我确实认为,这个速度可能已经是研究人员单独工作时的四倍,甚至更高,而且很可能还会继续加快。

每一次训练浮点运算(FLOP)能够转化出的智能都在增加,因此,即使算力规模到了某个阶段接近上限,也可以接受。另外,每一次浮点运算能够带来的收入也在增加。其中包含的智能越多,就越能创造价值。再回到预训练和强化学习如何分配资源的问题:Beam 总参数量为 5000 亿,激活参数量为 230 亿,训练它用到了 6000 块 GB300。我记得当时跑了几个星期,但现在随着基础设施效率的提高,大约 12 天就可以完成,甚至更短。 强化学习则用了略多于一万块 GB300,持续四周。所以,实际上强化学习消耗的浮点运算量更多。强化学习任务也更复杂,因为既要在大规模上进行大量推理,为智能体配置各种各样的沙箱,同时又要进行训练。

我之所以进入 AI 领域,是因为看到了我的联合创始人在 AlphaGo 上的工作。当时我还是一名物理学家,其中有一刻让我印象特别深:AlphaGo 的一张图表显示,它的能力一直在提升,没有停下来。他们最后在某个节点停止了训练,因为继续提升还有什么意义呢?它已经打败世界冠军了。我当时想,如果能够弄清楚怎样把这套方法用在有经济价值的事情上,那么问题就会变成:你愿意投入多少钱,让这个系统继续变好?那就成了一个经济问题。

现在,整个领域已经走到了这一步。对于这个开源项目,以及我们将随之发布的技术报告,有一点让我特别兴奋:我们会说明这些系统究竟是怎样构建出来的。我们的强化学习系统始终没有停止学习。如果你看那些曲线,会发现它们一直往上走;想要进一步扩大规模,基本上就是算力的问题。也就是说,我们这个领域已经能够构建非常通用、而且能力始终在持续提升的强化学习系统。你当然希望把它们做得高效得多,从已有算力中获取尽可能多的智能。但这也意味着,问题已经从“能不能把这样的系统训练出来”,转向“从哪里获得数据,以及什么事情有经济价值”。给某件事投入多少钱,换取某种程度的改进,最终成了一个经济决策。

主持人: 接下来,你们计划重点投入哪些方向进一步提升模型能力?有哪些进展可以分享?

Misha Laskin: 有些科学家可能不太愿意接受这个说法,但 AI 发展到今天,虽然仍离不开科学研究,但越来越多的工作已经是在解决工程问题。它当然是一门科学,但是却越来越像一门工程学科。还是拿造火箭来打比方,造火箭有科学的一面,但大多数人会把它看作一项包含一些科学研究的工程工作。现在的感受大致就是如此。

今天扩大规模的几个方向已经相对确定,主要就是预训练、合成数据和强化学习。也许还存在一些我们尚不知道、完全另辟蹊径的方向,也有一些新实验室正在探索,但目前的主线就是这些。 或者从某种意义上,也可以概括成训练和强化学习两个方向。

在这些环节里,架构、数据、算法都还有改进的余地,但它已经不像五年前那样,处于各种方向都可以大胆开拓的阶段。DeepMind 和 Google Brain 曾经非常可贵的一点,包括早期的 OpenAI 也是如此,他们押注的方向非常多元。大家都在尝试一些大胆而有趣的东西。现在,研究方向已经收敛了很多。这其中也有一点“硬件彩票”(hardware lottery)的意味:一旦某种方向开始奏效,硬件也会围绕它协同优化。于是,即使你有很棒的新想法,如果它跟现有硬件不够匹配,实际做起来也未必划算,新方向就更难冒出来。

回到你的问题,改进预训练究竟还能带来多少收益,目前还没有出现趋近上限的迹象。我们没有看到算力效率的提升开始放缓,新的东西还在不断出现。强化学习的提升空间尤其大,我认为其中可能还有大量东西有待发现。不过,即使如此,这些发现给人的感觉也更像是工程上的突破,而不是对一门全新科学作出开创性的理解。

主持人: 你提到,投入要对应某种经济活动,或者带来一定的生产力提升,这样才能从资金角度支撑你们继续做下去。据我所知,Anthropic 很早就押注了编程,OpenAI 显然也是如此。他们最初有一个编程模型,与 GitHub Copilot 合作,后来又扩展到了消费者市场和其他领域。从创造经济价值的角度来看,你们有没有特别关注的应用方向?是编程和智能体工作流,还是其他领域?这些似乎是很多应用的基础。我很好奇,你们是否已经有一些判断:模型会在哪些地方用得最多,或者最需要把它引向哪些方向?

Misha Laskin: 是的。我认为,编程和智能体相关能力为智能打下了某种基础,而这种智能最终呈现出的状态很有意思:它的能力分布并不均匀。一方面,它以一种出人意料的方式发生了泛化。让我惊讶的是,我们的模型竟然这么快就达到了某些相当新的能力水平,而其他实验室也是不久前才发现这些能力的。这其中确实发生了某种能力的衔接与泛化。另一方面,它的表现又有明显的参差不齐之处。一旦你有了适合目标任务的数据,模型就能很快适应;但即使在不同的评测基准之间,比如 Terminal-Bench 的不同版本之间,这种参差也依然存在。不同运行框架(harness)之间,并不会自然出现顺畅的泛化。不过,只要系统已经能够工作,具备了通用的智能体能力,再拿到适配新框架的数据,它实际上就会很快开始适应。

这意味着,你已经有一个适应能力相当强的系统,接下来要解决的是:具有经济价值的数据资源在哪里?我认为,这也是开放模型强大的原因之一。企业和客户可以拿到模型,针对自己的业务进行定制,从而为特定工作负载找到近似帕累托最优的方案,也就是以尽可能低的成本,获得尽可能高的性能。这是一个需要通过实践来回答的问题:你走到客户那里,真正看看什么对他们有价值,再判断能否为此生成数据。通常,只要一件事具有经济价值,就能够生成相应的数据,因为你甚至不一定需要直接用客户的数据训练。更多时候,你是在建立评估方法;如果能为客户的任务设计出好的评估,就能生成与之相近的合成数据,并获得很好的泛化效果。

具体来说,金融领域的各种“了解你的客户”(KYC)流程和合规流程就很有价值。网络安全领域的许多工作,尤其是网络防御,也相当有价值,法律领域同样如此。企业内部有各种值得用智能体来做的垂直业务,而且,要在这些领域把东西做成,方法模式往往非常相似。

Misha Laskin: Beam 是围绕编程和智能体任务训练的模型,这也是它的强项。构建模型时,重要的不只是能力,还有智能体完成一件事的速度。对客户来说,这意味着任务耗时更短,成本更低。

如果你用 AI 聊天工具提问,却要等十分钟才能得到答案,你自然会希望它一分钟就能答完。Beam 的效率通常是同等能力模型的三到四倍;与市面上更大的模型相比,效率优势更明显,可能达到十倍左右。它之所以这么高效,是因为我们首先高度重视通过预训练为推理能力打下扎实基础,再用大规模强化学习进一步增强这种能力。我们认为,这可能是开源领域迄今最大规模的强化学习训练。至少我还没有看到过公开记录显示有人曾用一万块 GB300 连续跑四周强化学习。

强化学习的目标是让系统用尽可能少的时间发挥出尽可能强的能力。以前的 AlphaGo 等系统也经历过同样的过程。最初的 AlphaGo 在解决问题时,路径还比较曲折,等达到与李世石对弈的水平时,它的搜索已经非常聪明。这才是真正支撑其能力的东西。强化学习做得越多,系统能力越强,解决问题的速度也越快。

Misha Laskin: 我想,这种直觉来自我们对强化学习的信念。我们始终相信,通向通用人工智能(AGI)的路径,是在非常强的基础之上进行强化学习。人们容易忘记,最早的 AlphaGo 系统也用人类业余高手的棋谱训练过,所以先做了模仿学习,再做强化学习。 因此,这两件事需要相互配合。它带来的一个好处是,你能得到一个真正有经济价值、推理效率很高的模型,成为企业以及公共部门主权 AI 项目非常实用的主力模型。

主持人:从变现角度看,开源模型和开放权重模型都有不同的商业化方式,Mistral 等公司很早就在探索不同路径。你们是否已经在朝某个具体方向推进,有没有可以分享的?

Misha Laskin: 我认为,开放模型与闭源模型的商业化,在某种意义上其实很相似。你真正想做的,都是尽可能扩大推理业务。两者的区别基本上在于你是在租用推理能力,还是拥有推理能力。

举个例子,当你购买一个词元(Token)时,实际上是在租用整套技术栈中的一小部分。这里包括运行框架——如果其中有智能体运行框架的话——还包括模型、推理软件、集群管理软件,以及运行它们的 GPU 等等。所有这些成本都被摊进一个词元里,你租到的就是这一整套东西的一小部分。而当你出于各种原因,希望拥有自己的智能时,我会把它比作住房:我们通常一开始租公寓,随着人生阶段的变化,出于各种原因会想买一套自己的房子,尽管拥有房子有时也挺让人头疼。但当你的经济条件足够成熟,有了家庭等等,你就会希望拥有它。AI 在商业市场已经发展到了一个阶段:企业花很多钱租用智能,然后又出于控制权等方面的考虑,开始希望拥有自己的智能。

回到变现问题,闭源模型和开放模型究竟有什么区别?开放模型的使用许可比较宽松,但客户要真正把它用起来,还需要模型周围的其他所有配套。使用闭源模型时,集群管理软件、推理软件、运行框架等配套通常已经由服务商提供;部署开放模型,同样离不开这些支持。我们为大型企业和主权 AI 客户提供所需的整套工具,帮助他们把开放模型部署起来。但光有工具还不够,大多数企业还需要有人协助落地。因此,我们会深入客户的业务现场,帮他们实现真正有价值的应用场景。而这些场景会带来更多算力和推理需求。这也是我们提供服务的商业逻辑:帮助客户用好开放模型,进而带动推理业务增长

主持人: 如果放眼未来一两年,你认为开放模型和闭源模型各自处理的 Token,大概会是什么比例?

Misha Laskin: 我觉得现在已经能看到趋势了。大约六个月前,在 OpenRouter、Vercel 这样的模型网关平台上,闭源模型占多数,开放模型占少数。而现在,比例几乎正好翻了过来:从闭源与开放七三开,变成开放与闭源七三开。我认为这个趋势只会加速。我猜,未来的格局可能会与操作系统相当接近:全球超过 95% 的服务器和计算机运行在 Linux 这样的开源操作系统上。这不意味着闭源产品没有很高的价值,微软和苹果都是极有价值的公司,开放与闭源各有发展空间,整个市场也足够大。

我认为,大多数 Token 需求会流向开放模型。这里有一个很大的区别:我认为,大量经济价值也会流向开放模型,因为即便模型的使用许可非常宽松,或者带有某种许可约束,运行它所需的其他东西仍然很昂贵。算力依然很贵,这和 CPU 的世界不同。GPU 等硬件加速器,是比 CPU 更昂贵的计算基础,因此需要围绕它们建立一种不同的云。我预期,大多数 Token 会流向开源模型,同时市场上仍会存在极有价值的闭源模型公司,也会有一个很有价值的生态,由开放模型公司及其周围的各类分发商构成。

主持人: 你了解开放模型处理的 Token 中,有多大比例来自经过强化学习训练的模型,有多少来自没有做过这种训练的模型,或者说基础模型吗?

Misha Laskin: 我想,现在每一个公开的开放模型,都在某种程度上做过强化学习。

主持人: 对,我指的是针对某个具体用例或应用做的训练。 也就是定制模型,现在通常是这样叫的。

Misha Laskin: 根据我听到的情况,也就是一些专门为开放模型提供推理服务的厂商引用的统计,绝大多数其实都是定制模型,占比超过 90%。

不过,这里有一个需要注意的前提:今天专用推理服务的最大客户是 AI 原生公司,也可能包括数字原生公司。它们的整个产品,就是对某个开放模型进行的一次大型定制,比如 Cursor、Cognition、Bridge 或 Harvey。这类公司的产品是围绕大规模定制的模型构建的。所以,这个比例并不奇怪:如果推理服务主要面向这类客户,那么它所运行的模型大多经过微调,也就不难理解了。

不过,对于企业市场未来会发生什么,我的看法有所不同。我认为,企业消耗的大多数 Token 将来自定制系统,而不是定制模型。也就是说,你可以先不微调模型,而是基于开放模型搭建一套适合自身业务的系统,比如通过智能体运行框架,让模型用于客户身份核验(KYC)等业务流程。等积累了足够的技术和应用经验,再考虑微调。

所以,我认为企业市场里的比例情况可能反过来。AI 原生公司走过的路径,是先用闭源模型,再转向开放模型,然后进行定制,它们走得非常快。它们从一开始就构建了能收集数据的原生产品。企业则大多是在既有产品和既有工具的基础上设计这套系统,要直接一步到位做微调,中间有很多阻力。因此,我猜企业里的情况会有些不同。

主持人: 那你认为,它们还是会先从最先进的模型,或者闭源模型开始,再迁移过去吗?运行框架会成为它们定制开放模型的方式吗?

Misha Laskin: 我们观察到的确实如此。企业开始考虑开放模型时,通常已经在闭源模型上运行了一定规模的工作负载,而现在和我们接触的大多数企业都在考虑开放模型。我基本没见过有人直接冲到“拥有智能”这个阶段。要成为拥有者,通常得先经过租用的阶段。

主持人: 它得先在企业支出中占据足够大的比例,然后你才会想:“怎样降低成本?这件事足够有价值,我要把它保留下来。”于是再进行切换。

Misha Laskin: 是的。比如,你每年花在闭源模型上的钱超过一亿美元,就会开始考虑:“也许我应该找到一种更优的做法。”

我认为,现在本地部署基础设施重新兴起,是一个很有意思的现象,部分原因是算力短缺。如果你是一家企业,从自己喜欢的超大规模云服务商那里购买服务,经常会发现算力根本不够,也很难拿到合适的价格。但你已经花了这么多钱,于是可能去找戴尔这样的基础设施厂商,说:“我就是想把裸机基础设施搭起来,然后给企业内部提供服务。”接下来怎么办?从裸机到真正做成应用,中间这一层由谁来帮助它们?

Misha Laskin: 是的。 我们认为自己的角色,就是帮助企业构建能够成功落地的解决方案,因此我们非常以解决方案为导向。AI 原生公司之所以能够采用开放模型,是因为它们能自己构建解决方案;企业只是在这方面需要更多帮助。真正要做的是走进去,评估最有价值、最值得做的事情是什么。许多企业可能已经基于闭源模型构建了一个覆盖数亿客户的智能体,迫切希望进一步扩大规模,扩展的倍数可能非常高。你很难走进去,只说一句:“我们来给你提供推理服务。”这种做法过去并不奏效。

主持人: 闭源模型生态竞争非常激烈。现在看来,开放模型生态也越来越像是如此。你同意这个判断吗?

主持人: 整个领域都竞争激烈,大市场通常如此。那么,从你们自身以及长期定位来看,你认为最重要的竞争维度是什么?

Misha Laskin: 对于一家公司最终如何胜出,我有一个很简单的公式。归根结底,要看你能创造多少可持续的收入,而这个公式是:你能够提

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →