返回资讯中心
外部精选
云计算
#Kubernetes#可观测性#Blog

KubeRay 加入 CNCF,PARK 全栈归入 Linux 基金会治理

来源标题:Donating KubeRay to CNCF

KubeRay 正式加入 CNCF,使 PARK 栈(PyTorch、AI 模型、Ray、Kubernetes)全部纳入 Linux 基金会治理体系。KubeRay 是连接 Ray 分布式 AI 应用与 Kubernetes 算力调度的开源工具和 Kubernetes operator,此前是 PARK 栈中唯一未归属基金会的核心组件。

CNCF BlogAndrew Sy Kim, Edward Oakes, Kai-Hsun Chen, Jui-An Huang, Richard Liaw, Robert Nishihara, and the KubeRay team2026/11/10 · 今天13 分钟阅读

以下正文由 AI 翻译自 CNCF Blog(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

PARK 技术栈(PyTorch、AI 模型、Ray 和 Kubernetes)正在成为生产级 AI 事实上的开源标准。在这一技术栈中,KubeRay 已成为连接基于 Ray 构建的可扩展 AI 应用与 Kubernetes 计算编排之间的桥梁。

PARK 技术栈几乎每一个核心组件都已归于 Linux 基金会旗下:PyTorch 和 Ray 通过 PyTorch 基金会,Kubernetes 通过云原生计算基金会(CNCF)。KubeRay 曾是缺失的那一块。

今天,我们宣布 KubeRay 正式加入 CNCF,使整个 PARK 技术栈都纳入 Linux 基金会治理之下,让各团队对其中立性和开放性充满信心。

在 Kubernetes 上扩展 Ray 集群

KubeRay 是一个强大的开源工具包和 Kubernetes operator,专为在云原生基础设施上无缝运行由 Ray 驱动的分布式 AI、机器学习和 Python 工作负载而设计。随着分布式 AI 工作负载成为云原生的核心构件,KubeRay 弥合了 Python 优先的 AI 框架与 Kubernetes 原生基础设施之间的鸿沟。

KubeRay 提供三种 Kubernetes 自定义资源定义(CRD),用于在生产环境中扩展和运维 Ray 工作负载:

  • RayCluster:在 Kubernetes 上运行 Ray 的基础构建块。RayCluster 管理 Ray 集群的完整生命周期,自动化 head 和 worker pod 的配置、健康检查、全局控制服务(GCS)容错,以及与 Ray Autoscaler 协同的动态自动扩缩容。
  • RayJob:专为批处理、分布式训练和强化学习(RL)工作负载而打造。RayJob 自动配置一个临时的 RayCluster,在集群就绪后提交 Ray 作业,并在完成后拆除集群,以最大化计算和加速器利用率。
  • RayService:专为使用 Ray Serve 的长期运行、高可用在线推理而设计。RayService 同时管理底层的 RayCluster 和 Ray Serve 部署图,为生产级 AI 服务提供零停机滚动升级、自动故障转移和无缝流量路由。

这些自定义资源共同为企业基于 Ray 和 Kubernetes 构建现代机器学习平台提供了基础。例如,Spotify 等终端用户使用 KubeRay 来扩展其内部机器学习平台 Hendrix,该平台用于在 GKE 上使用 Ray 训练和微调 Spotify 的机器学习模型。

“大规模运行多模态 AI 工作负载需要一个将 Python 优先的 AI 与 Kubernetes 紧密集成的平台。KubeRay 正是那座桥梁,帮助我们可靠地扩展并管理复杂的 agentic 工作流。在 Hark,这正是我们使用它、也是我为其贡献的原因:我希望帮助更多构建者自信地扩展生产级 AI。” —— Kai-Hsun Chen,Hark AI 基础设施负责人

发展 KubeRay 生态

除了核心集群生命周期管理之外,KubeRay 之所以获得广泛采用,还在于它与其他 CNCF 项目以及更广泛的云原生生态的深度集成。KubeRay 没有重新发明基础设施原语,而是直接接入平台团队已经依赖的工具:

  • 使用 OpenTelemetry、Prometheus 和 Fluent Bit 实现可观测性:Ray 在其指标管道中使用 OpenTelemetry,并以 Prometheus 格式暴露指标,使运行 KubeRay 的平台团队能够将集群利用率、任务执行情况和 Ray Serve 延迟与现有 Kubernetes 基础设施一起监控。配合 Fluent Bit 进行轻量级日志收集和转发,运维人员可以轻松聚合跨临时和长期运行的 Ray 集群中的分布式 worker 和作业日志。
  • 使用 Kueue、Volcano 和 KAI 实现批处理调度和配额管理:随着组织在稀缺的 GPU 和 TPU 资源上扩展分布式训练,KubeRay 与不同调度器原生集成,为 RayJob 和 RayCluster 带来 Kubernetes 原生的作业排队能力。这实现了 gang 调度(全有或全无的 pod 放置)、多租户资源配额、优先级抢占和拓扑感知调度。
  • 工作负载安全与隔离:随着 AI 工作负载的扩展,健壮的安全性和多租户能力至关重要。KubeRay 提供了使用自动化 mTLS 和 Kubernetes 网络策略来保护 Ray 集群的基础。

下一步是什么?

KubeRay 迄今为止的成功归功于其快速成长的社区成员——我们想感谢迄今为止为 KubeRay 做出贡献的每一个人。

成为 CNCF 沙箱项目只是 KubeRay 在开放、供应商中立治理下新篇章的开始,我们非常希望你能参与其中。

如果你正在参加 KubeCon NA 2026,欢迎来我们的 Birds of a Feather(BoF)会议与 KubeRay 维护者见面,讨论路线图、分享生产用例,并帮助塑造 Ray on Kubernetes 的未来。Hark 也将发表演讲,介绍他们如何将 KubeRay 用于多模态 AI 用例。

你也可以在 CNCF 或 Ray Slack 工作区的 #kuberay 频道与社区联系,并参加我们每两周一次的社区会议。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →