
AI云存储策略:Neoclouds为何不能仅靠闪存
来源标题:Why the Best AI Clouds Don't Run on Flash Alone
Neoclouds以GPU为核心,GPU运行速度受限于数据供给速度,传统云存储难以满足AI训练需求,闪存因此成为关键。但保存检查点、存储数据集等非活跃训练任务并不需要闪存级速度,Neoclouds常将这类存储引导至超大规模厂商的对象存储服务。该做法虽更经济,却带来数据引力问题:数据存入免费,迁出时的高额出口费用会随数据沉淀持续上升。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
2026年9月24日 作者:David Johnson // 暂无评论
Neocloud 围绕 GPU 构建,而 GPU 的运行速度只能与输入数据的速度相匹配。在 AI 训练所需的速度下,传统云存储方案无法跟上。
这正是闪存存储的用武之地。闪存快速且可靠,专为需要以极快速度和低延迟交付数据的工作负载而打造。但围绕活跃训练的大部分存储工作——保存 checkpoint、存储数据集、保留已完成的模型——并不需要闪存级别的速度(也不需要闪存级别的价格)。
这对 neocloud 来说是个问题。它们的基础设施围绕闪存构建。因此,对于不需要闪存的存储,它们往往引导客户转向超大规模云厂商的对象存储方案。这种方案更便宜、可用,而且能让 neocloud 专注于自己最擅长的领域。
问题在于数据引力:你在某处存储的数据越多,就越难离开。超大规模云厂商在设计上加剧了这一问题。它们允许你免费存入数据,却收取高昂得令人却步的出口费用来取出数据。因此,一旦你的数据扎根于超大规模云厂商的平台,离开的成本就会不断攀升。而无论你的数据存放在哪里,你往往就会在那里购买更多服务。于是,当 neocloud 继续从 GPU 计算中获得收入时,超大规模云厂商却悄然接管了更广泛的客户账户。一个原本合理的存储决策,最终导致超大规模云厂商拥有了除 GPU 合同之外的一切。
本文解释了为什么一个合理的存储决策会慢慢将客户拱手让给超大规模云厂商,以及分层存储架构——在合适的地方使用闪存、在其他所有地方使用更便宜的高容量存储——如何让 neocloud 能够争夺整个客户账户。
要理解为什么仅靠闪存并非答案,有必要梳理 AI 生命周期每个阶段对存储的实际需求。
闪存存储只专为其中一个阶段(活跃训练)而打造。在其他每个阶段,需要的是具有成本效益的高容量存储层,而这恰恰是 neocloud 目前交给超大规模云厂商的部分。(NVIDIA 的认证存储计划针对每个阶段分别验证存储方案,认识到单一存储架构无法很好地服务于所有阶段。)
闪存存储昂贵是因为它为速度而打造。但无论你是否需要,你都要为这种速度付费。用闪存来存储数据集、checkpoint 和已完成的模型产物,就像把你所有的邮件都发 overnight 快递,而其中大部分本可以走陆运;你为自己不需要的能力支付了溢价。
除了成本之外还有第二个问题。被占用于存储 checkpoint 和数据集闪存无法供 GPU 使用,而 GPU 才是 neocloud 销售的产品。每一 TB 用错地方的闪存,都是从核心产品中夺走的容量。
经济学一直青睐分层方案:在需要速度的地方使用快速存储,在其他所有地方使用更便宜的高容量存储。事实上,Google、Meta 和 Microsoft 多年来一直在运行分层存储架构(Meta 的工程团队将其方案描述为四个明确的层级,每个层级都为其最擅长的工作而选择)。
但在闪存之下构建完整的存储层是一项重大工程,而大多数 neocloud 可以理解地一直专注于其核心 GPU 产品。随着 SSD 价格在不到一年内上涨 257%,这一缺口已变得过于昂贵而无法忽视。
解决方案是遵循超大规模云厂商多年来使用的相同逻辑:让存储匹配工作负载,而不是反过来。
对于活跃训练,闪存仍然是答案。VAST、WEKA 和 DDN 以靠近 GPU 的快速存储来处理这一层,让训练保持全速运行。
对于其他一切,B2 Neo 可以填补空白。数据集在训练开始前存放于此。checkpoint 在训练期间持续写入此处。已完成的模型权重和记录随时间在此累积。该存储快速且耐用,但定价面向容量型工作负载而非闪存型工作负载。B2 Neo 直接连接到热层,因此数据可在两者之间移动,无需绕道超大规模云厂商。
最棒的是,neocloud 无需自行构建任何这些东西。B2 Neo 作为白标产品提供,以 neocloud 自有品牌部署。客户只看到一个无缝平台;从原始数据集到部署模型,他们的数据始终留在 neocloud 的基础设施上,从不接触超大规模云厂商。
闪存是 AI 生命周期中一个阶段的正确存储选择。在其他每个阶段,它都是一种昂贵的工具,用于并不需要它的工作。
只服务活跃训练层的 neocloud 留下了一个缺口,客户往往通过将数据发送给超大规模云厂商来填补这一缺口。一旦数据到了那里,出口费用就会把它留在那里。neocloud 最终将更广泛的客户关系拱手让给持有数据的一方。
好消息是,填补这一缺口不需要从零构建任何东西。Google 和 Meta 大规模运行的分层架构,如今可以以白标基础设施的形式提供给 neocloud。
在这个市场上,GPU 合同只是开始。留住数据才能留住客户。
在扩展存储基础设施时遇到瓶颈?B2 Neo 帮你走完剩下的路,无需重建。让我们谈谈。
David Johnson 是 Backblaze 的产品营销总监,专注于面向企业的云备份和归档。他在 Vultr 建立了产品营销职能,拥有丰富经验,为 Backblaze 带来了对云基础设施行业的深厚知识。David 对技术的热情意味着他的地下室就是一个迷你数据中心,满是 homelab 项目,他在业余时间在那里深化对行业的了解,成为备份和归档领域更专业的专家。在 LinkedIn 上与他联系。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。