
KubeRay 加入 CNCF,PARK 全栈归入 Linux 基金会治理
来源标题:Donating KubeRay to CNCF
KubeRay 正式加入 CNCF,使 PARK 栈(PyTorch、AI 模型、Ray、Kubernetes)全部纳入 Linux 基金会治理体系。KubeRay 是连接 Ray 分布式 AI 应用与 Kubernetes 算力调度的开源工具和 Kubernetes operator,此前是 PARK 栈中唯一未归属基金会的核心组件。
以下正文由 AI 翻译自 CNCF Blog(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
PARK 技术栈(PyTorch、AI 模型、Ray 和 Kubernetes)正在成为生产级 AI 事实上的开源标准。在这一技术栈中,KubeRay 已成为连接基于 Ray 构建的可扩展 AI 应用与 Kubernetes 计算编排之间的桥梁。
PARK 技术栈几乎每一个核心组件都已归于 Linux 基金会旗下:PyTorch 和 Ray 通过 PyTorch 基金会,Kubernetes 通过云原生计算基金会(CNCF)。KubeRay 曾是缺失的那一块。
今天,我们宣布 KubeRay 正式加入 CNCF,使整个 PARK 技术栈都纳入 Linux 基金会治理之下,让各团队对其中立性和开放性充满信心。
在 Kubernetes 上扩展 Ray 集群
KubeRay 是一个强大的开源工具包和 Kubernetes operator,专为在云原生基础设施上无缝运行由 Ray 驱动的分布式 AI、机器学习和 Python 工作负载而设计。随着分布式 AI 工作负载成为云原生的核心构件,KubeRay 弥合了 Python 优先的 AI 框架与 Kubernetes 原生基础设施之间的鸿沟。
KubeRay 提供三种 Kubernetes 自定义资源定义(CRD),用于在生产环境中扩展和运维 Ray 工作负载:
- RayCluster:在 Kubernetes 上运行 Ray 的基础构建块。
RayCluster管理 Ray 集群的完整生命周期,自动化 head 和 worker pod 的配置、健康检查、全局控制服务(GCS)容错,以及与 Ray Autoscaler 协同的动态自动扩缩容。 - RayJob:专为批处理、分布式训练和强化学习(RL)工作负载而打造。
RayJob自动配置一个临时的RayCluster,在集群就绪后提交 Ray 作业,并在完成后拆除集群,以最大化计算和加速器利用率。 - RayService:专为使用 Ray Serve 的长期运行、高可用在线推理而设计。
RayService同时管理底层的RayCluster和 Ray Serve 部署图,为生产级 AI 服务提供零停机滚动升级、自动故障转移和无缝流量路由。
这些自定义资源共同为企业基于 Ray 和 Kubernetes 构建现代机器学习平台提供了基础。例如,Spotify 等终端用户使用 KubeRay 来扩展其内部机器学习平台 Hendrix,该平台用于在 GKE 上使用 Ray 训练和微调 Spotify 的机器学习模型。
“大规模运行多模态 AI 工作负载需要一个将 Python 优先的 AI 与 Kubernetes 紧密集成的平台。KubeRay 正是那座桥梁,帮助我们可靠地扩展并管理复杂的 agentic 工作流。在 Hark,这正是我们使用它、也是我为其贡献的原因:我希望帮助更多构建者自信地扩展生产级 AI。” —— Kai-Hsun Chen,Hark AI 基础设施负责人
发展 KubeRay 生态
除了核心集群生命周期管理之外,KubeRay 之所以获得广泛采用,还在于它与其他 CNCF 项目以及更广泛的云原生生态的深度集成。KubeRay 没有重新发明基础设施原语,而是直接接入平台团队已经依赖的工具:
- 使用 OpenTelemetry、Prometheus 和 Fluent Bit 实现可观测性:Ray 在其指标管道中使用 OpenTelemetry,并以 Prometheus 格式暴露指标,使运行 KubeRay 的平台团队能够将集群利用率、任务执行情况和 Ray Serve 延迟与现有 Kubernetes 基础设施一起监控。配合 Fluent Bit 进行轻量级日志收集和转发,运维人员可以轻松聚合跨临时和长期运行的 Ray 集群中的分布式 worker 和作业日志。
- 使用 Kueue、Volcano 和 KAI 实现批处理调度和配额管理:随着组织在稀缺的 GPU 和 TPU 资源上扩展分布式训练,KubeRay 与不同调度器原生集成,为
RayJob和RayCluster带来 Kubernetes 原生的作业排队能力。这实现了 gang 调度(全有或全无的 pod 放置)、多租户资源配额、优先级抢占和拓扑感知调度。 - 工作负载安全与隔离:随着 AI 工作负载的扩展,健壮的安全性和多租户能力至关重要。KubeRay 提供了使用自动化 mTLS 和 Kubernetes 网络策略来保护 Ray 集群的基础。
下一步是什么?
KubeRay 迄今为止的成功归功于其快速成长的社区成员——我们想感谢迄今为止为 KubeRay 做出贡献的每一个人。
成为 CNCF 沙箱项目只是 KubeRay 在开放、供应商中立治理下新篇章的开始,我们非常希望你能参与其中。
如果你正在参加 KubeCon NA 2026,欢迎来我们的 Birds of a Feather(BoF)会议与 KubeRay 维护者见面,讨论路线图、分享生产用例,并帮助塑造 Ray on Kubernetes 的未来。Hark 也将发表演讲,介绍他们如何将 KubeRay 用于多模态 AI 用例。
你也可以在 CNCF 或 Ray Slack 工作区的 #kuberay 频道与社区联系,并参加我们每两周一次的社区会议。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。