返回资讯中心
外部精选
云计算
#Kubernetes#可观测性#Blog

KubeRay 加入 CNCF,PARK 技术栈全部纳入 Linux 基金会管理

来源标题:Donating KubeRay to CNCF

KubeRay 正式捐赠给 CNCF,使 PARK 栈(PyTorch、AI 模型、Ray、Kubernetes)的核心组件全部归入 Linux 基金会治理。KubeRay 是连接 Ray 分布式 AI 应用与 Kubernetes 算力调度的桥梁,提供三个 CRD 用于扩缩容和运维 Ray 工作负载。此前 PyTorch 和 Ray 已在 PyTorch 基金会下,Kubernetes 则在 CNCF 下,KubeRay 是缺失的一环。

CNCF BlogAndrew Sy Kim, Edward Oakes, Kai-Hsun Chen, Jui-An Huang, Richard Liaw, Robert Nishihara, and the KubeRay team2026/11/9 · 今天12 分钟阅读

以下正文由 AI 翻译自 CNCF Blog(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

PARK 技术栈(PyTorch、AI 模型、Ray 和 Kubernetes)正逐渐成为生产级 AI 事实上的开源标准。在这一技术栈中,KubeRay 已成为连接基于 Ray 构建的可扩展 AI 应用与 Kubernetes 计算编排之间的桥梁。

PARK 技术栈的几乎所有核心组件都已归属 Linux Foundation 旗下:PyTorch 和 Ray 通过 PyTorch Foundation,Kubernetes 通过云原生计算基金会(CNCF)。KubeRay 正是缺失的那一环。

今天,我们宣布 KubeRay 正式加入 CNCF,由此将整个 PARK 技术栈纳入 Linux Foundation 治理之下,让各团队对其中立性和开放性充满信心。

在 Kubernetes 上扩展 Ray 集群

KubeRay 是一个强大的开源工具包和 Kubernetes operator,旨在让由 Ray 驱动的分布式 AI、机器学习和 Python 工作负载在云原生基础设施上无缝运行。随着分布式 AI 工作负载成为云原生的核心构件,KubeRay 弥合了 Python 优先的 AI 框架与 Kubernetes 原生基础设施之间的鸿沟。

KubeRay 提供三种 Kubernetes 自定义资源定义(CRD),用于在生产环境中扩展和运维 Ray 工作负载:

  • RayCluster:在 Kubernetes 上运行 Ray 的基础构建块。RayCluster 管理 Ray 集群的完整生命周期,自动完成 head 和 worker pod 的配置、健康检查、全局控制服务(GCS)容错,并与 Ray Autoscaler 协同实现动态自动扩缩容。
  • RayJob:专为批处理、分布式训练和强化学习(RL)工作负载而设计。RayJob 自动创建一个临时 RayCluster,在集群就绪后提交 Ray 作业,并在完成后拆除集群,以最大化计算和加速器利用率。
  • RayService:为基于 Ray Serve 的长期、高可用在线推理而设计。RayService 同时管理底层 RayCluster 和 Ray Serve 部署图,为生产 AI 服务实现零停机滚动升级、自动故障转移和无缝流量路由。

这些自定义资源共同为企业基于 Ray 和 Kubernetes 构建现代机器学习平台奠定了基础。例如,Spotify 等终端用户使用 KubeRay 扩展其内部机器学习平台 Hendrix,该平台用于在 GKE 上使用 Ray 训练和微调 Spotify 的机器学习模型。

”” — [Name, Title, Spotify]

发展 KubeRay 生态

除了核心集群生命周期管理之外,KubeRay 之所以被广泛采用,还在于它与其他 CNCF 项目以及更广泛的云原生生态的深度集成。KubeRay 没有重新发明基础设施原语,而是直接接入平台团队已经依赖的工具:

  • 使用 OpenTelemetry、Prometheus 和 Fluent Bit 实现可观测性:Ray 在其指标管道中使用 OpenTelemetry,并以 Prometheus 格式暴露指标,使运行 KubeRay 的平台团队能够在现有 Kubernetes 基础设施旁监控集群利用率、任务执行和 Ray Serve 延迟。配合 Fluent Bit 进行轻量级日志收集和转发,运维人员可以轻松聚合跨临时和长期 Ray 集群的分布式 worker 和作业日志。
  • 使用 Kueue、Volcano 和 KAI 进行批调度和配额管理:随着组织在稀缺的 GPU 和 TPU 资源上扩展分布式训练,KubeRay 与不同调度器原生集成,为 RayJob 和 RayCluster 带来 Kubernetes 原生的作业排队能力。这支持 gang scheduling(全有或全无的 pod 放置)、多租户资源配额、优先级抢占和拓扑感知调度。
  • 工作负载安全与隔离:随着 AI 工作负载的扩展,强大的安全性和多租户能力至关重要。KubeRay 为使用自动化 mTLS 和 Kubernetes 网络策略保护 Ray 集群提供了基础。

下一步是什么?

KubeRay 迄今的成功归功于其快速成长的社区成员——我们要感谢迄今为止所有为 KubeRay 做出贡献的人。

成为 CNCF 沙箱项目只是 KubeRay 在开放、厂商中立治理下新篇章的开始,我们期待你的参与。

如果你正在参加 KubeCon NA 2026,欢迎来我们的 Birds of a Feather(BoF)会议与 KubeRay 维护者见面,讨论路线图、分享生产用例,并帮助塑造 Ray on Kubernetes 的未来。Hark 也将发表演讲,介绍他们如何将 KubeRay 用于多模态 AI 用例。

你也可以在 CNCF 或 Ray Slack 工作区的 #kuberay 频道与社区交流,并参加我们每两周一次的社区会议。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →