返回资讯中心
外部精选
软件工程
#开发者实时流

自己动手做Grokbot需要什么?

来源标题:What it takes to DIY your own grokbot

Grokbot的核心是负责定时调用LLM并执行工具操作的harness(智能体循环),但其harness为专有技术,个人无法直接使用。可选用pi、opencode等开源harness,或Claude Code、Codex等专有方案替代。现代harness通过多种上下文压缩技术,已使有限上下文窗口问题不再突出。

Hacker News 最新iacguy2026/11/5 · 12 天前17 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

假设你要打造自己的 Grokbot,需要做些什么?我们来一探究竟。

PS:这里的许多概念和示意图都受到 Lee Rob 在斯坦福演讲的启发。

Grokbot 设计的核心是 harness:也就是那个按固定节奏调用 LLM、并执行名为“工具”的动作的 agent loop。harness 通常经过高度优化,而 Grokbot 的 harness 是专有的,所以我们没法在个人版 Grokbot 里用它。剩下的路要么是从零自己搭一个,要么用现成的。

在现成方案里,我们可以选 pi 或 opencode 这样的开源 harness,也可以选 Claude Code 或 Codex 这类专有 harness,配合各大实验室的模型使用。无论选哪个,它多半都支持 Grokbot 架构中提到的这些概念:

每个 harness 的上下文窗口都是有限的,具体取决于所调用的模型。过去上下文压缩一直是个大难题,但现代 harness 已经非常擅长用多种技术来保持上下文高效。除此之外,它们的压缩能力也很好,这让上下文处理不再是个大问题。harness 常用的技术包括:

在 Grokbot 等产品中,当 agent 执行某项任务(比如分析发给它的截图,或完成某种 computer use 任务)时,如果条件允许,它会把该任务的上下文交给 subagent 处理。相比全部工作都由主 agent 承担,这种方式让上下文处理高效得多。

harness 不会一次性把所有工具和所有调用都加载进来。以记忆为例,只有核心的 profile memory 会被加载,而持续更新的 memory scratchpad 则写入文件,需要时再读取。工具调用也是如此:harness 只加载工具描述,只有在真正需要时才加载完整的工具定义。

说到底,上下文是一种有限资源。许多 harness 会在上下文填满时执行压缩。对于 Grokbot 这类常驻 agent,压缩会在用户不活跃的时段进行。这营造出了上下文窗口无限的假象。

harness 需要一个能“持久”运行的地方。所谓持久,是指它能扛住崩溃和重启,从而从各种状况中恢复,而不必把工作从头再做一遍。这一点很重要:如果 harness 正在执行工具调用时发生崩溃,它绝不能把同一项任务重复执行两次。想象一下,harness 替你发送一封邮件,却因为崩溃发了两遍;或者更糟,比如完成了一笔购买。

Grokbot 使用 Temporal 来实现持久性,harness 的 agent loop 本身运行在用户电脑之外,并通过外部与电脑通信。之所以这么说,是因为每个用户可用的电脑在空闲时都会休眠。因此需要一个外部的“服务器”,根据各种触发器唤醒电脑。触发器可以是任何东西,从用户消息到 agent 需要执行的定时任务。所以必须有一个常驻的服务器组件来唤醒机器。

Cloudflare 的 Durable Objects 在这里是个非常可靠的选择。例如 opencode v2 可以运行在 Durable Object 内(beta)。Grokbot 似乎使用 Temporal 作为持久层。无论哪种方式,harness 和消息管理都位于电脑之外,你需要一个能处理外部请求并在需要时唤醒电脑的持久层。把 harness 放在这一层里也是个不错的主意。

接下来是 Grokbot 特色的重头戏:电脑。这一架构的独特之处在于,它为每个用户提供一台持久化的电脑。在类似产品的许多早期版本中,人们会为每个会话启动一台电脑(沙箱)。这种做法在很多方面都有问题,因为你得想办法把一个会话的状态转移到下一个会话。而当只有一台电脑时,一切都简单得多,让多个 agent 控制这台共享电脑的模型也突然变得合理起来。每个 Grok“bot”都有自己的虚拟桌面,但它们共享文件系统。这意味着用户的记忆和文件可以被所有 agent 共享,非常方便。

虽然 Grokbot 称其为“常驻在线”,但实际上他们选择让电脑在不使用时休眠。在我看来这没必要,因为空闲的电脑并不占用多少内存,而且总可以把它们作为虚拟机在服务器上密集打包。但为了节省 RAM,他们选择把电脑快照到磁盘,这也可行。权衡在于:节省宝贵的 RAM,还是让机器及其进程保持极低延迟。

agent 能访问电脑,所以要打造另一个 Grokbot,我们需要教它如何使用这台机器、如何点击操作。我们还需要教它如何浏览网页、阅读页面。在 Grokbot 中可以看到三种主要交互:

在我们这里,任何电脑都行。我们可以从 AWS 或其他超大规模云厂商弄一台 VM,在上面配置一个带多个工作区和流式传输的操作系统,这样就能提供同样的体验。

Grokbot agent 的一大优点是,它们可以在用户不在场时被唤醒。例如,你可以让你的 Grokbot 持续扫描 Zillow 上的房源并把匹配结果发给你,或者让它根据你邮件里的待办清单持续工作。这类需求很多都基于 webhook 或定时触发器,它们唤醒 agent、让它干活,然后再把结果反馈给你。要让触发器成为可能,持久化的 harness 必须位于电脑之外(因为电脑需要休眠)。

说到记忆,目前最先进的做法似乎是按层级组织的 markdown 文件。最重要的记忆可以追加到每个用户的系统提示中。其他层级的记忆则可以放在文件夹和文件里,让 harness 在需要时搜索。在 Grokbot 中,记忆有以下几种形式:

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →