返回资讯中心
外部精选
云计算
#容器平台#AI#AI Agents#AI Engineering#Developer tools

Anthropic为Claude Code推出消息线程功能,加快长会话响应速度

来源标题:Anthropic speeds up Claude Code with message threads. But your token bill stays the same.

Anthropic推出Message Threads功能,通过减少重复发送的对话数据来加速长会话响应,已对多数Claude Code用户默认开启。该功能使50万至100万token请求的首token中位时间缩短约35%,同时已在Messages API公测,可惠及自建AI agent的开发者。但Anthropic表示token计费不变。

The New StackPaul Sawers2026/11/3 · 14 天前23 分钟阅读

以下正文由 AI 翻译自 The New Stack(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Anthropic 发布了一项新功能,旨在通过减少重复发送到其 API 的对话数据量,加速长时间运行的 Claude Code 会话,帮助开发者在编码会话不断增长时更快获得响应。

据 Anthropic 周一发布的一篇文章介绍,这项名为“消息线程”(message threads)的功能目前已在 Anthropic 的 Messages API 上开放公开测试,并且已对“大多数”Claude Code 用户默认启用。

该公司表示,对于包含 50 万到 100 万 token 的 Claude Code 请求,该功能已将中位首 token 时间(TTFT)——即 Claude 开始生成响应所需的时间——缩短了约 35%。

由于该功能现已集成到 Messages API 中,其适用范围也超出了 Claude Code,可惠及构建自有 AI agent 的开发者,尤其是那些需要处理长对话、重复工具调用和大量数据的场景。

消息线程的工作原理

要理解发生了什么变化,有必要先看看 Messages API 传统上如何处理对话。

每当 agent 向 Claude 发送新请求时,都会附带完整的对话历史。这意味着所有消息和工具调用都必须再次传输,即使 API 之前已经接收过这些内容。

例如,一个编码 agent 在执行复杂任务时,可能会产生数百次 API 调用。随着它读取文件、修改代码,对话历史不断增长,当历史达到 50 万 token 时,后续每一次请求都需要重新发送这 50 万 token,再加上新加入的信息。

随后 API 必须对传入的数据进行验证和 token 化,Claude 才能开始响应。这种反复处理会显著增加延迟,在长时间的编码会话中尤为明显。

消息线程改变了这一模式,允许 Anthropic 在其服务器上临时保留对话历史。首次请求仍然发送完整的对话,包括所有系统提示和工具定义。但后续请求只需包含新消息以及对上一次响应的引用。

在后台,Anthropic 会在服务器上重建完整对话,然后再传递给 Claude,从而免去了客户端反复上传相同信息的需要。这个细节很重要,因为 Claude 在每一轮仍然会处理整个对话——如果历史包含 50 万 token,模型仍然会收到这些上下文,即使客户端只传输了最新的消息。

“虽然使用消息线程后每次请求的体积更小,但 Claude 在每一轮仍然会读取完整对话,因此 token 用量保持不变。”

因此,消息线程本身并不能降低 API 成本——Anthropic 仍按 Claude 处理的 token 收费。该公司指出:“虽然使用消息线程后每次请求的体积更小,但 Claude 在每一轮仍然会读取完整对话,因此 token 用量保持不变。”

不过,开发者可以将消息线程与 Claude 现有的提示缓存功能结合使用,后者允许以折扣 token 费率复用此前已处理的内容。这两个功能可以协同工作,分别降低延迟和处理成本。

Anthropic 列举了几个消息线程特别有用的场景,包括:会累积文件编辑和工具结果的长时运行编码 agent、反复截取屏幕截图的计算器使用 agent,以及处理大量文档或图像的应用程序。在每种情况下,避免重复上传都能减少会话期间传输的数据量。

AI agent 基础设施公司 StackOne 的联合创始人兼 CTO Guillaume Lebedel 周二在 LinkedIn 上发文,通过一个模拟估算可节省的数据量,展示了消息线程对计算器使用 agent 的潜在好处。

他的计算假设 agent 在每一步截取一张 150 KB 的屏幕截图。如果没有消息线程,第 50 次请求需要上传约 7.5 MB 的累积截图。使用消息线程后,该请求只需携带最新的截图,约 0.15 MB。

在整个 50 步会话中,累计上传的截图数据将从约 191 MB 降至 7.5 MB——减少约 25 倍。

虽然这些数字并非基于实际 API 测试,但它们说明了该功能对反复上传大文件的 agent 的潜在好处。Lebedel 预测,计算器使用 agent 可能会率先采用这一功能,并在年底前得到广泛使用。

“我打赌——计算器使用 agent 会比编码 agent 更早采用它,因为每一步一张截图正是导致重传数据量大的原因,而且大多数会在 12 月底前默认开启,”他写道。

如何使用消息线程

为了实现该功能,Anthropic 在 Messages API 中引入了一个新的 thread 参数。初始请求通过包含 thread={"type": "create"} 来创建线程,同时附带完整的对话历史、系统提示以及所使用的任何工具。

后续请求则使用 thread={"type": "continue

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →