返回资讯中心
外部精选
企业动态
#科技#产业

对话Dyna Robotics:被部署教训了300天后,找到机器人Scaling Law

“全世界最无聊的机器人。”这是最近《纽约邮报》的一篇报道标题,而这家公司的创始人们却认为,这是“对一家机器人公司最高的赞美”,这家公司叫Dyna Robotics。

钛媒体硅谷1012026/10/20 · 16 天前30 分钟阅读中文

以下正文同步自 钛媒体,版权归原站所有,已转换为易读排版。

(本文作者为 硅谷101,钛媒体经授权发布) 文 | 硅谷101 “全世界最无聊的机器人。”这是最近《纽约邮报》的一篇报道标题,而这家公司的创始人们却认为,这是“对一家机器人公司最高的赞美”,这家公司叫Dyna Robotics。 看多了机器人跳舞、打拳、跳钢水等酷炫的视频,Dyna确实很“无聊”:此前发布的Dyna-1主攻叠毛巾、叠衣服。这次发布Dyna-2之后,新机器人Taku进了洗衣房,默默把脏衣服放进洗衣机、操作机器,再把衣服拿出来,送进烘干机,最后取出、折好、放到架子上。 联合创始人Jason Ma说:机器人如果真的开始工作了,本来就应该是“无聊”的。而在这份“无聊”的背后,真实部署是衡量机器人的“唯一评估”,在Jason看来,机器人不能落地,不是因为没有腿、没有手,而是因为模型和整个系统还不够好。 为了让机器人更好地工作,Dyna也重新选择了模型路线:从VLA(视觉-语言-动作模型)转向WAM(世界动作模型),将预训练数据扩大到100万小时第一人称人类视频。他们发现,随着人类视频数据增加,模型对未在预训练中见过的机器人动作,也预测得越来越好。 这些探索意味着机器人正在接近自己的“GPT时刻”吗?这一期视频播客,时隔一年半,我们再次回到Dyna Robotics。我们从技术和部署的角度,聊聊Dyna过去两年经历的挫败、教训、反思与优化。我们也想通过Jason,理解这一轮硅谷具身智能正在发生的变化与趋势。 以下是我们和Jason的对话。 陈茜:Jason你好,欢迎做客《硅谷101》。 Jason:你好,非常荣幸参加你们的播客。 陈茜:这次对话我们也邀请了在机器人行业工作的君武,作为特邀联合主持人,希望能就一些专业问题展开更深入的讨论。 张君武:你好,我现在在Blue River Technology做机器人工程师。 陈茜:Dyna最近有一系列发布,硅谷机器人行业也很热闹,很多公司都在发布新模型、新演示。你觉得机器人行业进入了一个新的里程碑吗?为什么最近有这么集中的发布? Jason:我觉得要把通用机器人做下去,还是至少需要一两个突破。很多公司的大路线差不多,首先要扩大数据规模,也想做出模型的一些能力。也可能暑假是个发布的好时机,所以大家都把东西发出来了。 整个机器人领域现在正逐渐从演示走向真正的商业落地,我们公司也在这方面做了很多工作。所以我觉得这是做机器人非常激动人心的时刻。 陈茜:从你的角度看,现在机器人行业进入了什么阶段?如果和LLM(大语言模型)相比,有人说是不是快到GPT-3的时刻了,可以这样对比吗? Jason:我觉得可能还在GPT-2和GPT-3之间。纯从数据规模看,机器人拥有的数据量,相对于GPT-3阶段的语言模型还是要小一些。 但机器人和语言模型也不一样。你可以有很强的机器人模型,完成指令下的一些特定场景任务;语言模型如果不能跟你流利地聊天,其实没有什么能力能真正用上。所以从产品形态来说,机器人有没有“GPT时刻”,可能没有那么重要。 张君武:现在也有一种说法,机器人行业不一定会有“GPT时刻”,因为机器人的形态、处理的具体任务都不太一样。你觉得会有这样的时刻吗,还是要看情况? Jason:我觉得要看情况。在具身智能之前,我们可以看自动驾驶。自动驾驶就没有人提过“GPT时刻”这个概念。Waymo、特斯拉在10多年前已经能做好一个演示,但从演示到真正落地,能在旧金山打到一辆Waymo的车,中间的距离还是很长。 在真实世界里迭代,这个过程比较长。虽然现在相比无人车刚开始的时候,已经有很多更好的技术,但这个过程仍然必须经历。它肯定不能像语言模型一样,大家已经有手机、电脑,只要能上ChatGPT的网站,就能用到这种智能。在具身领域,如何把智能用起来,本身就是一个很难的问题。 陈茜:你刚才说,数据和模型都有进展,是这两个方面的进展让机器人又能往前迈一步了吗? Jason:这两点非常重要,但还有一个特别重要的东西,就是硬件。没有硬件,模型再厉害,你也感受不到。如果硬件只是一个只有5个自由度的小机器人,它也只能做一些很简单的抓取。 在具身领域,模型、数据和硬件必须一起进步,才能最终做成一个让不同的人、千家万户都能用上的产品。 陈茜:硬件主要指本体、供应链,还是运控? Jason:首先指本体。供应链对于扩大本体规模也有很大作用。现在有很多不同的机器人,但在设计过程中,要把机器学习、人工智能中的一些概念,以及模型训练、部署的心得,放进硬件迭代的过程。最后能形成闭环,是一个很大的壁垒。 陈茜:你们的联合创始人York之前把行业分成三派:一类是模型优先,只做大脑,比如Physical Intelligence,也就是π;一类是硬件优先,只做本体;还有一类是一体化集成,全部都做。Dyna属于第三类,大脑和本体同时做,为什么选择这个路线? Jason:因为最终部署机器人智能时,客户付费的并不只是模型,模型只是整个技术栈的一部分。我们跟客户聊,他们根本不在乎我们用VLA(视觉-语言-动作模型)还是世界模型,也不知道这些是什么。他们最后在乎的是,在自己的场景里,机器人能不能完成复杂、多样的任务。 从这个角度出发,我觉得必须把大脑和本体放在一起做,才能达到最好的效果。从技术层面来说,也很难把两者分开,做出一个非常通用的东西。在真实世界里,物理智能是大脑和本体连在一起,才能达到很好的效果。就像人一样,我们的大脑也适配了自己的身体。 陈茜:我觉得Dyna是一家偏务实的公司,从演示和本体设计上都能看出你们非常克制,没有追求很炫酷的演示或动作,而是从叠毛巾、叠衣服这些很具体的商业化场景来设计路线。这是为什么? Jason:从纯学术角度来说,机器人领域能做的事情太多了,任何一个话题都可以花好几年做研究。但我觉得,机器人学习技术已经到了有可能商业化的阶段,现在非常需要从产品出发,思考哪些问题必须解决,哪些问题现在解决与否还不是特别重要。 这样可以帮助整个团队排好优先级,确保我们在技术研发、公司这两年的成长过程中,每个节点都能做出更正确的技术判断和选择。 从过去的演示中可能也能感受到,我们做的能力,都是我们认为真正落地必需的能力,而不是为了拍一个炫酷的视频。这个领域现在很火,很多人的做法可能更以演示为导向,但我觉得那样可能本末倒置了。 我们是从最终要开发、生产、派出几万个机器人的目标出发,思考哪些技术问题必须从今天开始解决,以此决定整个团队的技术路线。 张君武:我想追问一下硬件的协同设计,以及你们在客户现场获得的经验。我之前也做过物流、挑拣,客户的要求很高。你们是一开始就想自己做硬件,还是到了客户现场,有了某些经验教训之后,才觉得一定要自己做? Jason:两个都有。从第一性原理出发,要做通用机器人,必须先想数据从哪里来、用什么数据训练,再以此引导硬件设计。 我们现在已经发布了Dyna-2,预训练用了大量人的第一视角数据。如果预训练要向人学习,那么部署时,机器人的形态越像人,迁移就会越好。 但做人形机器人,要权衡是否做腿、是否做手。我们从中间选了一个很好的权衡点:半人形加底盘。这个形态可以从今天开始部署,也能获得从人的数据中训练的很大好处。这就是我们从第一性原理出发设计硬件的思路。 陈茜:你们没有做全人形,没有双足,也没有灵巧手,但觉得现在的形态已经能落地做很多事情了? Jason:对,现在的形态已经能做很多事情。如果现在不能落地,不是因为没有腿或者没有手。 我们内部也做很多灵巧手研究,但目前是纯粹的基础研究,还没有把灵巧手落地的打算。因为现在灵巧手硬件的成熟度,还没到能直接落地的状态。 陈茜:刚才看你们的演示,动作挺顺畅,但有些灵巧手的演示反而会让动作变慢,这也是你们的考量吗? Jason:现在用灵巧手做操作或遥操作,比夹爪难很多,要把遥操作速度提上去也很难。所以灵巧手的演示通常会慢一些。 陈茜:你刚才说,不能落地不是因为手或脚,是因为模型不够好吗? Jason:我觉得是整个系统不够好。我们在部署的博文里也讲过,一套系统能不能落地,不仅要求模型百分之百做好,还必须有很多Observability(可观测性)。 你要知道这一天模型做了什么、机器人做了什么,机器人上的电脑有没有资源争用等问题,这些对部署都很重要。所以每次更新机器、更新模型,我们都会把这些工作做好,才能在真实的客户现场具备Observability(可观测性)。 张君武:你讲到了机器人的形态对Cross-embodiment transfer(跨本体迁移)的影响,也谈到了“GPT时刻”和互联网规模的数据量,我们后面会继续讨论。 陈茜:我也很感兴趣,你们在部署中学到了什么。先从最开始复盘一下,你在研究中的品味和选择,可能也奠定了Dyna的技术路线。你是什么时候开始对机器人感兴趣的? Jason:从博士一年级开始。我的导师做机器人和强化学习,宾大也有GRASP Laboratory,是一个很大的机器人研究中心。我刚读博士时,本来想学强化学习。 陈茜:因为你大学时就在做强化学习? Jason:大学时我没有做很多研究,当时在探索不同的方向,但觉得强化学习非常合乎逻辑,就想继续读博研究。 更早的时候,我在国内长大,小时候下了很多围棋。AlphaGo刚出来时,我正好在美国读高三。我觉得这个东西很神奇,能把这么难的游戏都解决了,就想上大学一定要研究一下。后来觉得很有趣,就继续读了博士。 陈茜:AlphaGo打败李世石是在你高中时,那场比赛对你意味着什么? Jason:他们不只下了一场,而是五场。我很惊讶,AlphaGo可能是4比1打败了李世石。我很小的时候就看李世石、古力下围棋,所以看到李世石被打败,觉得不可思议。 陈茜:“神之一手”,也就是第37步,有惊讶到你吗? Jason:肯定有。我觉得第37步,以及强化学习找到的其他方案,都非常神奇。其实这和最近语言模型解决一些很难的数学问题,是同一个概念:在固定场景里,如果奖励函数比较确定,人工智能肯定能找到比人能想到的更好的方案。我觉得10年过去,这个原则没有变。 张君武:你当时对人工智能的大脑如何决策感兴趣。机器人、自动驾驶也是强化学习中比较主流的应用,对吗? Jason:对,但在机器人领域,强化学习必须用得更谨慎。 陈茜:因为它是实体的? Jason:对。或者说,强化学习能奏效,一个很大的原因是这个领域必须有很好的模拟器。比如游戏,游戏本身就是模拟器;做语言模型时,语言模型自身可以模拟语言的演进过程。 但在机器人很多应用场景上,做一个很好的模拟器非常难。现在教机器人跑步、跳舞,都是在模拟器里通过强化学习做出来的。但抓取、Contact-rich manipulation(密集接触操作)这些任务,现在的仿真还有一些距离。 我不太鼓励在真机上跑强化学习,因为我曾经做过。真机的并行程度太低,远不如模拟器可以4000个环境一起跑。 张君武:这是不是也是你们选择毛巾的原因?力度不准确,毛巾也不会被捏碎,不像我们之前包装维生素瓶子,力气一大,整个瓶子就被压碎了。 Jason:对。所以公司一开始,希望商业化和技术同时往前走,就先从叠毛巾、叠衣服出发,因为很难叠坏。 机器人会出错,但不是致命的错误。 陈茜:对,最差就是把毛巾或者衣服撕坏。 Jason:目前好像还没有发生。 陈茜:游戏很适合强化学习,DeepMind也训练了很多游戏,后来往大语言模型走了。但你没有选择大模型,反而选择了机器人方面的强化学习,是因为导师,还是自己的兴趣? Jason:读博士时,主要是自己的兴趣。一开始在机器人里做强化学习,我觉得前几篇论文做得还不错。导师也建议我继续在一个路线上做最顶尖的工作,比起做很多不同的工作,但在每个领域都马马虎虎,回报会更高。 陈茜:你怎么找自己感兴趣的论文选题?从论文题目和选题看,你似乎喜欢挑战现有认知的方向。 Jason:博士后面几年,我确实是这样想的。如果要写一篇论文,这个问题必须很新颖,没有现成的基线方法。机器人现在还没有被解决,一个很大的原因是,大家对问题定义还没有完全形成共识。在这种情况下,如果只是沿用一个已经设定好的问题,去超过某个基线方法,我觉得意义不是很大。 机器人学习的探索空间很大。博士后面几年,我从第一性原理去想:要让强化学习在机器人上真正奏效,有哪些瓶颈?很容易就会发现,最大的瓶颈是奖励函数没办法设定。 玩游戏、下围棋时,游戏规则、围棋规则就是奖励函数,告诉你拿几分。但机器人学走路、跑步、跳舞,或者抓东西、切菜,没有人给你奖励函数。你没办法编一个程序,完全用数学方法把怎么切菜写出来。我当时觉得,这个问题必须解决,否则没办法做强化学习。 张君武:生活中完成一件事,比如拿杯子,没有一个标准答案。你可以从左边去拿,也可以从右边去拿。这时候该怎么设计奖励函数? Jason:很多操作任务没有最优解。所以我有一篇论文叫VIP,就是从人的视频里学习一个Prior(先验),学习一个很大的奖励模型,看人是怎么做的,再用人的做法指导这个奖励模型。 陈茜:这是2022年你在Meta做的论文? Meta内部一直有研究机器人的团队?我知道他们现在也在做机器人。 Jason:对,Meta一直有机器人研究。之前更偏学术,我当时在FAIR。2022年的FAIR可以做很多基础研究。 陈茜:可能是FAIR最好的时光。 Jason:对,现在很不一样了。 陈茜:VIP(价值隐式预训练)解决的问题,是从人类视频的时间顺序里学习价值函数? Jason:对。比如抓一个东西,从第一张图到最后一张图是一个过程,把这个过程、这个顺序理好,就可以帮助判断:机器人做同一个任务时,在这一张图完成了百分之多少,下一张图又完成了百分之多少。这是一种可规模化地学习奖励函数模型的方法。 2022年的机器人数据很少,现在我觉得也少,当时就更不用说了,所以当时觉得这个方法很合理。 陈茜:你说的是遥操作数据? Jason:不管是不是遥操作,机器人视频都没有那么多,所以必须有一种方法,不依靠机器人数据学习奖励函数。机器人最终还是要解决人在物理世界里想解决的任务,因此从人的视频出发是合理的。 陈茜:当时能用什么人类视频?也是UMI? Jason:当时还没有UMI(通用操作接口)。2021年,FAIR有一篇论文叫Ego4D,可能是第一篇大规模、以人为中心的第一视角视频数据工作。当时的数据有3000小时。 陈茜:是戴着头盔采集的吗? Jason:这个细节我可能不知道。当时觉得3000小时很大,但和现在的规模比,就太小了。 张君武:从你当时的研究到现在,好像有一个连续性。Dyna-2也在讲,怎么利用更现成的互联网视频,以及相对更好采集的视频数据。 Jason:其实没有特意想沿用之前的论文。做机器人必须实际一点,我之前的一些论文有时可能过于超前,比如后面可以聊到的Eurek这些技术当时可以做研究,但想拿来做产品,还不是特别合适。 所以Dyna刚创立时,我很少用之前的方法,而是先把一些我觉得肯定能奏效的方式扩大规模。 陈茜:你觉得2023年在英伟达做的Eureka太早了吗? Jason:当时做出来的效果已经很惊艳。不只是大家可能看过的转笔演示,而是用人工智能自动生成奖励函数。 陈茜:我做功课时才发现,你那时已经让GPT-4写奖励函数代码了。 Jason:对,和现在Astra写很多东西相似。 陈茜:但区别是,当时GPT-4写的是奖励函数代码,不直接输出策略,也不直接驱动机器人。 Jason:对。当时先用GPT-4写奖励函数代码,再在仿真里跑强化学习,得到一个策略。看这个策略的表现,再给GPT-4反馈。这样基本上就是RSI(递归自我改进),不断改进奖励函数代码。 陈茜:很早的RSI(递归自我改进)。 Jason:现在大家都叫RSI(递归自我改进),当时的名字没这么炫酷。 陈茜:你们当时用的是英国Shadow的灵巧手,让它学会转笔? Jason:对,是在模拟器里学的。真机上按理说也应该可以,但工程量会很大。 当时灵巧手市场没有现在这么多选择,可能只有Shadow Hand可以做,而且很贵。 陈茜:几万美元一只。 Jason:对,我们当时也没有这个资源,就先在仿真里做了。做研究,一开始先在模拟器里验证一个想法,是很好的方法。 之后我们发了一篇论文,叫DrEureka,教机器狗在瑜伽球上保持平衡、行走。这是把Eureka放到真实世界的后续研究。 陈茜:最近很多人在讨论GPT-6 Astra对机器人领域的影响。它现在带来的影响,和你当时用GPT-4写奖励函数代码,有什么根本区别? Jason:用GPT-6,你直接说想要什么,它就能一口气做很多事情,帮你完成。我们当时用GPT-4,Eureka也开源了代码,可以看到我们如何让GPT-4自己写代码,再把代码融入仿真环境。现在GPT-6可以自己安装仿真环境,把这些都处理好。 陈茜:GPT-6可以自行安装? Jason:对,而且能力也更强。以前GPT-4主要是语言模型,对视觉、空间的理解不是很好。现在GPT-6的空间理解很好,可以直接完成一些对空间推理要求很高的机器人任务,这是一个本质区别。 张君武:未来哪些领域会更多用到GPT-6这样的智能体驱动的机器人技术,哪些领域又会更多受益于人工智能、智能体对训练的帮助? Jason:在我看来,两者没有很大的本质区别。最重要的是给模型、给智能体系统一个奖励函数。 比如训练模型,有training loss(训练损失),你可以跟GPT-6说,一直改参数,直到Training loss(训练损失)达到2.3左右。让它做智能体驱动的机器人技术也是同样的概念,一直写代码,直到把任务完成。最终就是要给模型一个目标。 张君武:奖励函数很重要。 陈茜:你2023年在英伟达的路线大量依赖仿真,很有英伟达的特点。当时Jim Fan也和你在这篇论文上合作? Jason:对,Jim Fan是末位作者。我当时和Jim、Yuke在英伟达合作,但做这个项目时,也没有说必须用仿真。 因为之前做了VIP(价值隐式预训练),从人的视频里学习奖励函数,所以一开始想做转笔时,我们先想能不能从人的视频学出转笔的奖励函数。但尝试时发现,我没有真正的灵巧手,没办法在真机上验证转笔策略。 如果真机是瓶颈,就必须从仿真开始。但问题也很明显:我都不知道模拟器能不能训练出一个会转笔的模型。机器人仿真的一个大问题是,有些任务,你甚至不知道能不能被模拟出来。转笔当时没人做过,所以是未知的。 那就先手动写一些奖励函数。但手动写没有出路,必须用模型自己开发奖励函数,这就变成了Eureka。 陈茜:你后来去了谷歌,做了GVL(生成式价值学习),好像又回到VIP(价值隐式预训练)的延续工作上? Jason:可以这么说。我博士期间的大部分工作,是解决机器人领域的奖励函数,以及其他标注从哪里来的问题。 加入谷歌时,正好Gemini 1.5刚出来。Gemini的多模态能力一直不错,我想能不能用在机器人上,就做了一个算法,用VLM(视觉语言模型)直接做上下文学习,把奖励函数写出来。当时效果很好,我也很惊讶,为什么这东西会奏效?它应该不奏效,这些肯定不在预训练里。 现在也有很多创业公司在做GVL(生成式价值学习)这样的事情,用VLM(视觉语言模型)标注奖励函数、做子任务标注。说实话,GVL(生成式价值学习)可能比Eureka和VIP(价值隐式预训练)都更商业化一些。 陈茜:今年出现了很多数据公司,很大的一个落地方向就是把数据卖给机器人公司,最近很赚钱。 Jason:对。标注是一个大问题,用VLM(视觉语言模型)标注挺好。 陈茜:你是在谷歌之后想创业的。为什么没有加入实习过的三家公司,反而选择创业? Jason:当时做了很多研究,我想在真实世界产生更大的影响。写论文对我已经没有太大吸引力。我觉得具身机器人的战场,不是在实验室里写论文,而是真正把机器人带到应用场景里,看能不能工作。 陈茜:所以你当时就意识到部署很重要? Jason:对。我在学术界,不管企业研究实验室还是学校,写过很多论文、做过很多演示。我个人的感觉是,自己在评估自己的作业,没有真实的客户,也没有真实基准。 当时机器人领域每篇论文都有新的演示,都想更炫酷一点,但任务是研究员自己设定的。比如在DrEureka里,教机器狗在球上保持平衡,之前没人做过。我想出这个任务,是为了验证算法,觉得很酷,但和实际应用是两码事。 我想让研究的影响力更大。做一家初创公司,尤其是像我们这样把产品和研究放在一起的公司,我觉得能学到更多,影响也会更大。 张君武:你在三个不同的实验室待过,对之后有什么影响?原本我好奇技术方面的影响,但听下来,似乎更多是选择和非技术方面,或者说商业化方面的影响? Jason:在这些大厂工作,对我最有帮助的有几点。首先是人脉,之前的导师现在也是机器人领域非常有影响力的人,我和他们的关系一直很好。 其次,不管在三家公司还是读博士时,我都没有沿着一种方法一直写论文。我尝试过从人的视频里学习,用VLM(视觉语言模型)直接推理,也用仿真做奖励函数。因为覆盖面比较广,创业时就没有限定必须从某一种技术路线出发,可以更客观地看每个阶段用什么方法最好。这对公司长期发展有帮助,不会只堵在一条技术路线上。 张君武:你前面说,有时并不期待模型能奏效,结果它反而奏效了。现在很多正在读博士,或者准备读博士的同学可能会想,模型是不是已经能处理大部分甚至所有任务?模型方面还有新的研究问题吗?还有没有必要读博士? Jason:新的问题还有很多。读博士最重要的是探索新问题,而不是在已有问题上比别人多刷两三分。你要写那种没有现成基线方法的论文,提出一个新问题。如果问题合理,自然会有很多人跟进。 做Eureka时也没有基线方法,我得自己想。因为当时没人从语言模型里生成奖励函数,做RSI(递归自我改进)这些东西。VIP(价值隐式预训练)、GVL(生成式价值学习)也是一样。把问题定义想清楚,是研究最重要的事。 所以博士生最重要的是找新问题,而不是去和GPT-6或其他模型比较基准测试分数,那样没有太大意义。 陈茜:你什么时候认识York和Lindon的? Jason:2024年3月,我来到谷歌。刚来几周,就认识了Lindon和York。 陈茜:他们不在谷歌吧?当时Caper已经被收购了吗? Jason:对,已经被收购了。当时Lindon应该在迈阿密,York好像在国内。 陈茜:是在被收购后的休息期吗? Jason:我觉得没有,我们三个都不是闲得下来的人。当时是Monica介绍的。我刚加入谷歌,也在想接下来做什么。我想把机器人带到真实环境里,而不是在实验室里自己想任务。他们的想法和我能走到一起。 陈茜:Lindon和York在上一个创业项目中已经是联合创始人,项目被收购、退出后,想做机器人。Monica之前是投资人,现在也已经加入你们了。当时他们需要一个做前沿模型的科学家,所以找到了你? 张君武:你当时无论研究还是创业,应该有很多选择。Lindon和York身上有哪些特质,让你觉得一拍即合? Jason:首先,要做好一家机器人公司,我个人觉得不能只做学术。即使我是学术背景,最终还是想把模型、本体做成产品,也就是我们现在的技术路线。如果只跟研究员创业,创始团队会有很大的偏差,长期未必是最优的发展路线。 其次,他们做过创业公司,而且做得很好,也是硬件公司。他们在一些领域懂的东西,和我在技术上懂的东西很互补,这很重要。 陈茜:你们三个现在各自负责什么? Jason:Lindon是CEO,更多负责战略和管理,以及对外的事情。 陈茜:找钱、找人、找方向。 Jason:对。我主要负责技术路线,研究员做什么、技术里程碑是什么,公司接下来在技术上做哪些东西。 York是我目前见过工程能力最强的工程师之一,有什么特别难的东西,他都可以做,也负责一些工程管理。 陈茜:你们三个会吵架吗? Jason:我觉得必须有争议,没有争议,说明交流还不够多。但我不会把争议称为吵架。争议是好事,能让大家尽早发现问题、解决问题,因为我们三个都想把公司做好、做大。 陈茜:比如会在哪些问题上有争议? Jason:技术路线、商业路线,大家可能有不同想法,但最后都是能解决的。 陈茜:技术路线和商业路线有时会冲突吗? Jason:做好Dyna这样的公司,最难的一点是如何在商业和技术上找到共鸣点:做的任务既能推动商业部署,也能让模型、整个飞轮搭得更好。 我们一开始学折叠,就是这个原因。我觉得这是做机器人Foundation model(基础模型)的第一个任务,因为容错率高,不会把东西撕坏;不像洗盘子,打碎一个就很麻烦。我们从这个角度找第一个、第二个任务。但现在公司做大后,接下来的策略也可能有一些改变。 陈茜:回到Dyna刚起步、准备发布Dyna-1的时候,你们选择叠毛巾、叠衣服作为演示,当时挺有先驱性,也因为叠毛巾的演示火起来了。现在很多公司都在叠毛巾、叠衣服,我之前去WAIC(世界人工智能大会)、WRC(世界机器人大会),也发现大家都在做。当时你们是同时从商业和技术考虑,觉得这是一个很好的首个落地场景? Jason:是。当时觉得叠毛巾、叠餐巾,模型应该能做。最大的问题不是能不能做,而是能不能100%完成。 第一个模型发布的重点就是,当时有这么多VLA(视觉-语言-动作模型)、通用模型,但都没有达到很高的成功率。如果成功率很低,就没有任何商业价值。所以第一个技术突破,是能不能达到100%。 Dyna-1发布后,我觉得大部分其他公司都在这个方向跟进,很多公司开始发布可靠性演示。这说明我们当时发布的东西有很大影响力。 陈茜:开始创业后,你们讨论过只做Foundation model(基础模型)这一层吗?比如Physical Intelligence从一开始就想只做智能层、不碰硬件,你们没有往这个方向考虑过? Jason:一开始没有硬件,肯定先买别人的机械臂尝试,把模型做起来,但我们从一开始就有做硬件的打算。把硬件做好要花很长时间,所以最近才把最新的硬件发布出来。 张君武:你们能一边部署、一边改进硬件,很厉害。我之前做挑拣机器人时,如果线束设计不当,或者相机位置不合适,可能导致线受力过大,影响重复操作的一致性和可靠性。为了达到好的可靠性,你们一开始是不是也在硬件上花了很大功夫? Jason:肯定的。不管做智能层还是其他层,最后都要做到可靠。但这不只是模型的可靠性,而是整个系统的稳定性。如果只做模型、不做硬件,整个系统稳定性的很大一部分,你根本没办法掌握。这样做产品会很吃亏。 陈茜:你们最开始叠毛巾时,没有现在这样的轮式底盘,好像也没有机器人的头,就是两个夹爪? Jason:对,基本上是两个机械臂。 陈茜:当时跟投资人聊,他们会觉得你们不够炫酷吗? Jason:有可能,我觉得是不够炫酷。 陈茜:同期很多公司已经有人形、双足机器人了,你们不会受干扰吗? Jason:我们肯定在想接下来的硬件怎么做,但公司一直很务实,不会一步做一个很炫酷、却没有落地机会的东西。 我们非常相信通过迭代推进技术发展,不会从零一步做出最终的硬件。这样中间出错率很高,也没有商业落地闭环的反馈,对于想把技术做好来说,其实很吃亏。 陈茜:“想把技术做好会很吃亏”,这句话怎么理解? Jason:比如把模型做好,必须在硬件上做很多评估。但如果硬件很不稳定,连评估都做不了,就没办法知道模型能不能工作,以及背后的原因。 很多人形机器人都有这个问题,系统太不稳定,对模型发展产生很多负面反馈。我们先用比较简单的系统部署,让当前的部署和模型形成飞轮,同时把自己的硬件做好,两者可以并行。 张君武:是不是除非任务涉及跨越复杂地形、大范围移动,否则不一定需要做人形?有些人形机器人展示,也是在固定位置工作。 Jason:我个人觉得没有什么必要。很多室内工作其实不需要双腿,尤其是工厂、商业场景。 但家用不一样。家是为人设计的,人有腿,比如客厅有上下楼梯,轮式机器人就可能有局限。工业、商业场景的地面通常很平,尤其美国有一些规定,必须把地面做得很平,这对早期部署有很大优势。 陈茜:回到叠毛巾,难点在哪里? Jason:一开始觉得叠毛巾难,后来发现模型叠得很好、很快。最后难的是,能不能把叠好的毛巾一条一条很整齐地摞起来。 对精准度要求比较高。 尤其要摞10条毛巾,如果第三条比较歪,上面的就会继续歪,误差会累积放大。 陈茜:所以每条毛巾都要叠得很整齐,放在很准确的位置。 Jason:对,后来发现,提升整齐度还比较难。 陈茜:最难的一点是什么?比如夹爪的难点在哪里? 发现叠错了,怎么纠正过来,这块最难。 Dyna-1有三个环节,从基础奖励模型,到自主探索,再到有目的的失败恢复。也就是说,搞砸了,但能掰回来,这一步是模型最重要、最难的一步? Jason:对,这是最难让模型学会的一类动作,有一些难点。但现在距离Dyna-1发布已经一年多,对我们公司来说,已经知道如何解决,而且能解决得很好。 陈茜:怎么解决? Jason:这个不能透露。 陈茜:通过强化学习吗? Jason:强化学习是一种,但我们有多种方法。 张君武:是独家秘诀。我也很好奇

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →