返回资讯中心
外部精选
软件工程
#开发实践#Artificial Intelligence, Cloud Computing, Cloud-Native, Generative AI, Kubernetes and Containers

KubeCon吸引超万人参会,业界讨论AI时代基础设施是否仍重要

来源标题:Agents build things. Enterprises have to run them

KubeCon上周吸引超过1万名参会者,但有人质疑在AI代理可自行构建东西的时代其相关性。Linux Foundation CEO Jim Zemlin等业内人士认为,不再想配置基础设施与不再需要可运行的基础设施是两回事,AI并未消除对底层基础设施的需求。

InfoWorld2026/11/17 · 今天21 分钟阅读

以下正文由 AI 翻译自 InfoWorld(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

我从没在 Kubernetes 领域工作过,所以 KubeCon 这个大会很少会第一时间出现在我脑海里,哪怕它就在我家门口举办。上周它吸引了超过 10,000 名参会者,可我一位好朋友仍然质疑它在 AI 时代的相关性。我在一篇文章里提到了 KubeCon,他回短信说:“现在没人关心那些底层原语了。Agent 直接把东西造出来就行了!”

我发现自己竟然同意他的说法,但也只同意了一瞬间。对于我们这些生活在 AI 中的人来说,很容易忘记企业采用的现实。我多年来一直警告不要搞时装驱动的 Kubernetes adoption,我也并不怀念开发者花整个下午 deciphering 部署配置的日子。如果 agent 能替他们省掉这些活,那太好了。

但“不再想配置基础设施”和“不再需要能正常工作的基础设施”之间,有着相当大的区别。那些认为 Kubernetes 过时只差一个 prompt 的人,嗯,现实会打脸的。

事实上,许多拥抱 AI 的人,恰恰是那些理解为什么底层原语仍然重要的人。我把这个观点抛给了 Linux Foundation CEO Jim Zemlin,论证说:“AI 改变我们创造软件的方式,比它消除运维工作要快得多。”他回短信说:“没错,代码很便宜,但信任很昂贵。”这比怀念 YAML 更好地解释了 KubeCon 的相关性。

AI 人群早已在这里

Kubernetes 圈子并不是对 AI 过敏。远非如此。正如最近 CNCF 和 SlashData 的一份报告所指出的,75% 的云原生开发者使用 AI 编程工具,相比之下非云原生同行只有 55%。当然,云原生开发者并不等同于 Kubernetes 运维人员。即便如此,也很难找到数据来支持“Kubernetes 基础设施社区在顽固抵制 AI”这种说法。这两种兴趣是重叠的。

我们也不该假装企业级 agent 大多是想像出来的。Zapier 11 月 9 日的调查发现,71% 受访者所在的组织已经有 agent 在生产环境中运行。考虑到样本是 513 名有 AI 经验的美国管理者、来自至少 1000 名员工的公司,这可能不是完全有代表性的样本。这也可能不是报告中最有趣的发现。吸引我注意的是,在使用 agent 的组织中,只有 30% 的领导者表示这些 agent 在无人干预的情况下完成了超过 60% 的分配任务。

这很酷。这是真实的采用。但距离把业务交给机器人来运营,还有很长很长的路要走。

事实上,这两项调查都挑战了我朋友那种漫不经心的“AI 会搞定一切”的回应。企业可以热情地使用 AI,同时坚持其应用保持安全、可恢复、可负担。这不会让他们变慢。这显示了成熟度,以及愿意承担超越一段炫酷屏幕录制之外的责任。

毕竟,agent 生成一个服务,并不能决定它该访问哪些客户记录、它该获得多少容量、或者资源短缺时哪个其他应用优先。这些决策依然存在,即使软件越来越多地执行它们。

我们仍然要为推理付费

Zemlin 说 KubeCon 上的人们关注安全和用更少的硬件和电力获得更多性能。“这并不容易,”他补充道。

想想招商银行。在 CNCF 9 月发布的一份案例研究中,该银行描述了在近 10,000 张加速卡上支持 AI 训练和推理。它的问题不仅仅是找到更多硬件。相反,这是可预测性和响应性的问题:训练需要可预测的容量,面向客户的推理需要响应不断变化的需求。为高峰流量保留容量会在低谷期浪费钱,而扩展太慢又会让用户等待。

该银行将 Kubernetes 与调度、监控、扩缩容和移动模型数据的工具相结合,产生了显著影响。它报告说,加速卡的平均计算利用率从 35% 提升到 60% 以上,对于可比模型和服务,每百万 token 的推理成本下降了 60% 以上。突然间,不那么酷的 Kubernetes 变得非常酷了,因为它帮助大幅降低了 AI 的成本。

显然有人在乎底层原语。

这就是“agent 直接把东西造出来”论点跳过的地方。一个应用可以在演示中完美运行,同时消耗远超应有的资源。一次部署可以成功,却留给下一个团队去发现其权限过宽。更快地生成配置,并不能证明它就是正确的配置。等等等等。

正如 Isolvalent 联合创始人 Thomas Graf 在 2023 年对我说的,平台团队越来越被期望满足企业需求,“同时不破坏和抵消在敏捷性和开发者效率方面已经取得的成果。”工作是在保持开发者构建自由的同时提供控制。这仍然很好地描述了 agent 需要从平台得到什么。

AI 带来自己的基础设施难题

更新的工作负载也需要一些更新的答案。11 月 5 日,Google 宣布了 Agent Substrate 1.0 及其在 Google Kubernetes Engine 上的正式可用,同时将 Agent Substrate、gVisor 和 OpenRL 捐赠给 CNCF。看穿那些花哨的措辞,问题都是熟悉的。Agent 执行代码、等待模型响应、保留状态,并且需要限制它们能访问什么。在 agent 等待时保持专用计算运行是浪费的;在没有足够隔离的情况下运行生成的代码是危险的。

Google 的方法将持久化的 agent 状态与可复用的执行环境分离,并通过网关强制执行访问控制。Google 长期以来一直处于 AI 的前沿。尽管它有 AI 的性感(或者也许正因如此),Google 显然认为基础设施仍然重要。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →