返回资讯中心
外部精选
云计算
#容器平台#AI#Podcast#sponsor-elastic#Sponsored

Elastic高管谈AI代理规模化瓶颈:上下文缺口拖累企业ROI

来源标题:The context problem: It’s what’s really breaking AI agents at scale

Elastic高管Sri Desikan指出,阻碍AI代理规模化落地的核心问题是“上下文缺口”:模型再强,若不能及时获得恰当信息,token投入就会浪费。仅把企业数据接入MCP服务器或塞进上下文窗口并不够,且计算成本高昂。企业需快速按需向代理提供所需信息,才能从演示走向稳定自动化。

The New StackAlex Wilhelm2026/11/13 · 4 天前6 分钟阅读

以下正文由 AI 翻译自 The New Stack(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

AI 模型越来越聪明,token 越来越便宜,agent 也在不断进步。但上下文鸿沟横亘在现代企业与 agent 理想国之间,让许多公司无法实现他们期望从 AI 投资中获得的回报。

正如我们在 AI 时代见过的大多数问题一样,科技公司正争先恐后地填补这一空白。The New Stack 最近采访了 Elastic 负责搜索业务的高管 Sri Desikan,以进一步了解 AI 上下文鸿沟以及他的公司如何应对这一挑战。

上下文鸿沟很容易理解。正如 Desikan 所解释的,“前沿模型变得越来越好、越来越好”,但如果你不给它们提供恰当的上下文,“你花在 token 上的所有钱都会浪费掉”。在 agent 需要的时候快速为它们提供所需的信息,才是从令人印象深刻的演示走向持久自动化的关键。

企业界正感受到这种压力。AI 模型可以连接 MCP server 来请求信息,但仅仅把公司的语料库接到一座桥上是不够的。Desikan 认为,你不能只是“把所有这些数据一股脑塞进[模型的]上下文窗口”。为什么?因为这样做既耗费大量算力(大量 token!),速度又慢。

那么我们需要做什么?将企业数据预先整合到一个 AI 索引中,这个索引知道数据存储在哪里,以及数据之间如何关联。Desikan 将这一过程描述为创建一个“存储企业内所有事物元数据的容器”。按照这一构想,AI agent 可以更快地访问正确、有用的信息,同时消耗更少的 token(在一些示例中,token 消耗大幅降低)。

还有另一个值得考虑的问题。如果你遵循 Elastic 的指导,预先计算好你的 AI 上下文(即索引),你就可以“确保过时的信息”不被包含在内,让企业“知道 LLM 将如何思考”。

当然,用 AI 预先为 AI agent 准备数据,会引发各种隐私和 agent 自主性方面的问题,我和 Desikan 也讨论了这些。如果你想深入了解这些问题,可以点击播放。但纵观整场对话,令我感到鼓舞的是,业界应对新问题的方法似乎相当周密;今天困扰我们的事情,未必下一季度还会困扰我们。

The post The context problem: It’s what’s really breaking AI agents at scale appeared first on The New Stack.

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →