
英伟达优势正从GPU扩展到系统层
来源标题:Nvidia's AI advantage is moving beyond the GPU
投资者开始意识到,英伟达的竞争优势已不止于GPU本身。随着AI算力扩展至吉瓦级,系统编排愈发复杂,英伟达围绕GPU构建的配套硬件使其在系统层面占据优势,即便GPU本身面临更多竞争。自周三财报发布后,这一新叙事逐渐成形。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
在本周之前,关于英伟达的主流叙事大致是这样的:在AI热潮的最初几年,英伟达是先进GPU的唯一来源,随着行业规模扩张,这项业务变得极其有利可图。过去几年,亚马逊和谷歌等超大规模云厂商开始自研芯片,英伟达不再是唯一选择,这让许多投资者怀疑它的优势究竟有多持久。
这是一个很有说服力的故事,而且基本属实。从2023年初到2025年中,英伟达市值增长了10倍,但过去一年其股价走势更为温和,原因是市场对GPU竞争的担忧。
自周三英伟达发布财报以来,一种新的叙事正在形成,投资者开始意识到英伟达的优势远不止于GPU。随着AI算力规模向吉瓦级迈进,编排调度已成为一项日益复杂的任务。不出所料,英伟达已经打造了处理这一任务所需的大部分先进硬件,使其在GPU周边系统上拥有巨大优势,尽管GPU本身的竞争正在加剧。
尽管人们常说算力正在变成大宗商品,但要以峰值效率运营一个超大规模数据中心仍然极其困难——而且随着部署规模越来越大、速度越来越快,这一挑战只会愈发严峻。
只需看看英伟达实际销售的产品细节,就能窥见一斑。该公司目前正在推出Vera Rubin架构,将Rubin GPU与一系列其他单元搭配,包括Vera CPU、Groq 3 LPX推理加速器,以及类似的存储和网络机架。
过去一周,我与英伟达的人交流了这些系统实际做什么,结果令人惊讶。和Rubin GPU一样,它们也是高度专业化的系统,但它们不是用来处理token的,而是确保GPU之外的一切尽可能高效运转。如果GPU是引擎,这些就是车的其余部分。
Vera CPU尤其专注于数据编排问题。英伟达存储技术副总裁Jason Hardy告诉我:“Vera之所以重要,是因为单台服务器或任何计算平台能容纳的内存是有限的。”
随着数据中心算力规模扩大,内存容量也随之扩大,这就是为什么美光等公司在基础设施热潮的第二波中赚得盆满钵满。但要在正确的时间将数据送到GPU并不简单——而且随着企业希望不断降低每瓦token数,它们正意识到这种流量调度有多么重要。
Hardy说:“我们看到这些操作的性能提升了高达3倍,Vera CPU实现了这种加速。所以现在我们可以充分发挥闪存的潜力,因为我们能从中获得全部性能而不会出现瓶颈。”
在英伟达之外,也能看到同类问题的不同解法。当OpenAI开发其Jalapeño芯片时,一个主要关注点就是通过最小化需要移动的数据量来完全避免这些挑战。
该公司在本月早些时候的一篇博客文章中表示:“我们设计Jalapeño是为了最小化数据移动和通信延迟。其大域设计允许整个工作负载留在单一互联系统内,最小化数据移动,帮助完整请求从头到尾保持快速高效。”
这是一种不同的思路——通过在一个集成芯片内完成工作负载来完全避免数据移动。但整体逻辑是一样的:用更智能的流量控制而非更多的处理器周期来提升效率。这反过来又为企业开辟了一个全新的基础设施竞争层面。
这种对数据编排的新关注并不自动意味着英伟达会赢。该公司将不得不像在GPU领域一样,与竞争对手芯片制造商和超大规模云厂商竞争。但竞争已经转移到了一个新的层面——在这个层面上,打造一款竞争性GPU不如让整个系统高效运转来得重要。
至少在早期阶段,英伟达似乎拥有压倒性领先优势。
当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
马斯克称特斯拉将退还部分Cybertruck订金,并为停产决定辩护 Kirsten Korosec
特斯拉将于2027年停止生产Cybertruck Sean O'Kane
Claude现可通过其新的个人理财工具分析你的消费 Aisha Malik
Harbinger扩展国防业务后融资2.4亿美元 Sean O'Kane
公司称几乎没人用AI代理叫Uber Sarah Perez
Meta收购AI编程初创公司Conductor Lucas Ropek
随着电力短缺加剧,数据中心转向老旧喷气发动机 Aditya Mehta
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。