返回资讯中心
外部精选
软件工程
#开发者实时流

研究探索把编程智能体放到机器人上的路线

来源标题:An Agentic Robotics Fable

文章梳理了将编程智能体接入机器人控制的一系列工作,包括 Code as Policies、CaP-X 和 ASPIRE,主张让语言模型对失败原因进行推理并直接修正,而不是单纯依赖更多演示数据。作者认为机器人领域长期忽视了通用智能在闭环迭代中的作用。

Hacker News 最新EvgeniyZh2026/11/13 · 4 天前22 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

人类在每次尝试后都会做出调整。纸团没扔进垃圾桶,下一次投掷就会自动修正。我们不断迭代,某种意义上是通过强化学习的方式达到更好的表现。但要高效地做到这一点,需要我们在学习方式上具备智能。这正是我们成为快速学习者的原因:我们会推理某件事为什么失败,精准地改变那一点,调动我们关于世界的一切其他知识,然后再试一次。

到目前为止,AI 机器人领域大多把这种智能排除在循环之外。一个把螺丝掉在地上的策略不会问为什么。它只会等待更多的演示数据。多年来,这个领域一直痴迷于控制层面的细节。动作分块(action chunks)。绝对、相对还是增量位姿。分箱还是流匹配。

在这一过程中,机器人学忘记了通用智能有多么有用。语言模型学会了阅读、规划、写代码和修复自己的 bug,但我们很少让它们去解决现实世界中的任务。

那么,当你把这种智能赋予双手时,会发生什么?

我们沿着一条将编程智能体放到机器人上的研究路线前行:Code as Policies(Jacky Liang、Andy Zeng 及同事)、CaP-X(Max Fu、Ken Goldberg、Jim Fan 及同事)、ASPIRE(Runyu Lu、Yuke Zhu、Jim Fan、Guanzhi Wang 及同事)以及 RAX(Runhan Huang、Xiangcheng Zhang、Yilun Du 及同事)。我们所添加的是度量:以与我们的 VLA 评估同样严格的标准、在同样的真实布局上对智能体进行评估,每次试验都由人工评分。

每个模型获得十个双臂任务和我们的机器人 API。对于每个任务,它并非从零开始:它还会获得我们的技能库、我们的运动规划器、该任务的模拟器以及十次遥操作演示。它用 Python 编写技能,在仿真中最多运行 30 次,然后请求最多 10 次真实试验。

10 次遥操作演示(含步骤标签)→ 编写技能(Python,基于我们的技能库)→ 运行试验(仿真中最多 30 次,然后真实 10 次)→ 查看出了什么问题(摄像头、力传感器、自己的日志)→ 修改代码(每次修复一个提交)→ 最终评估(每个任务 90 次真实评估)→ 下一轮试验 / 最终版本

智能体在演示索引中收到的步骤标签,例如“打开最上面的抽屉。”和“把内六角扳手放进抽屉里。”

我们的寓言有十三项发现,分为三部分。

同样的十个任务,同样的布局,同样的机器人。智能体根据十次演示用代码编写自己的技能,并在最多 30 次仿真和 10 次真实试验中迭代改进。我们排行榜上的端到端策略则用 10、100 或 300 次演示进行训练。

差距并不微妙。在同样十次演示的条件下,我们排行榜上每一个端到端策略都停留在个位数。智能体策略的总体任务成功率达到 34% 到 65%。最好的端到端策略需要 30 倍的数据才能越过该区间的下限,即便如此也止步于 37%。

在外推布局上,Fable 5.2 仍能达到 52%,而用 300 次演示训练的 Rho 从名义布局上的 53% 下降到 13%。

它们在自己能验证工作的地方获胜。每次训练试验后,它们会分析出了什么问题并修改代码。在机器人上,这些代码会测量一个盒子是否就位或一个目标是否在可达范围内,几乎从不虚报成功。这种自我评估正是端到端策略通常缺失的,它开启了对策略的一整套全新洞察,并使其解决方案具有可解释性。

四个智能体每个有评级的评估回合及其记录的判定:智能体策略自己的判定与遥操作员的评分对比。

当出现异常时,智能体策略会调用模型,附上智能体为那一刻编写的恢复方案,由模型选择一个或放弃。由于技能是读取场景而非回放演示,它们在出错后仍然有效:一个滑落的连接器落在了任何演示都未覆盖的位置,策略能找到它并重新抓起,正如 Argon 在下文视频中所做的那样。它们的解决方案具有鲁棒性,并且在决策点会运用常识。

连接 DC 插孔,最终评估,三者均在相同布局上。Fable 一次连接成功;Argon 连接失败,重新抓起连接器后连接成功;Rho 未能连接。每个视图下方:子任务及其评级方式。慢动作仍以 4 倍速播放,角落有标注;计数器保持实时。

对十个任务取平均,一次成功的试验遥操作员需要 47 秒,用 300 次演示训练的端到端策略需要 46 秒。智能体策略需要 124 到 177 秒,是前者的 2.6 到 3.7 倍。在“倒螺丝”任务上,遥操作员需要 12 秒,Rho 需要 13 秒,智能体策略需要 33 到 49 秒。

真实机器人,名义布局,一次成功所需时间,对全部十个任务取平均;在某个任务上从未成功的智能体则在其解决的任务上取平均。

以真实速度将螺丝倒入漏斗:遥操作员、用 300 次演示训练的 Rho 以及四个智能体,按速度从快到慢排列,各自展示其在该布局上最快的一次成功。

在将两个盒子装入容器时,智能体策略在大多数试验中能放入第一个盒子,但很少能放入第二个:间隙只有几毫米,每次代码停下来测量时,盒子在夹爪中都会轻微移动。在工具箱任务上,Fable 在演示布局上以触摸方式找到锁扣的中位时间为 97 秒,但在新布局上需要 180 秒,并最终超时。在我们的对比视频中,用 300 次演示训练的 Rho 在 42 秒内打开了它。

在一个布局上的最终评估,真实速度。用 300 次演示训练的 Rho 在 42 秒内完成;Fable 超时,Opus 未能掀起盖子。

训练一个任务,智能体策略在模型 token 上花费 10 到 230 美元,端到端策略在 GPU 时间上花费 10 到 180 美元。Fable 5.2 是最昂贵的智能体,主要是因为它会持续通过真实试验进行工作。最便宜的策略 GR00T 和 DiT-Flow 也是最弱的之一。

我们尝试了两种方式,并用同一个模型 ChatGPT-6 Astra 对它们进行比较。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →