返回资讯中心
外部精选
软件工程
#开发者实时流

Perplexity 与 Nvidia 合作推出本地运行的 Portable Computer

来源标题:Perplexity partners with Nvidia to launch Portable Computer

Perplexity 发布 Portable Computer,把其 agentic Computer 平台搬到用户本地硬件上运行,首发支持 Nvidia DGX Spark 桌面超级计算机和搭载 RTX GPU 的 Linux 机器。任务默认在设备上启动,本地完成的工作不消耗计费额度,仅在需要时才征得用户同意把单步任务发往云端更强模型。该产品由 Perplexity 与 Nvidia 紧密合作开发。

Hacker News 最新gmays2026/11/16 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Perplexity 今日推出 Portable Computer,这是其智能体平台“Computer”的一个版本,完全运行在用户已有的硬件上——首批支持 Nvidia 的 DGX Spark 桌面超级计算机以及配备 Nvidia RTX GPU 的 Linux 机器。

此次发布与 Nvidia 紧密合作开发,是迄今为止将严肃的 AI 智能体工作负载从云端迁移到本地设备的最激进尝试之一。模型、用户文件以及工作本身都可以留在本机。本地完成的工作不消耗计费额度,公司表示每项任务默认从设备上开始——在将任何单个步骤发送到云端更强大的前沿模型之前,系统会先请求许可。

“我们基本上把完全相同的 UI 带到了一个完全本地的应用中,”Perplexity 基础设施与企业工程副总裁 Nate 在周一的新闻发布会上表示。“这包含了整个智能体框架、推理以及本地完成工作所需的一切。”

对 Nvidia 而言——过去两年它一直在向全世界推销万亿美元的 AI 数据中心——这一公告传递的信号更为微妙但具有战略重要性:这家芯片制造商相信本地 AI 已经跨过了一个门槛,从爱好者好奇心变成了实用工具——而它想卖的就是运行本地 AI 的硬件。

“本地 AI 到了一个拐点,”Nvidia 开发者技术总监 Nader 说,他专注于开发者工具和开源。“很长一段时间里,都是爱好者和发烧友在跑那些被量化到极小的量化模型……虽然那很酷,但不太实用。但隨著大量非常有用的新开源模型出现,这一切都变了。”

Perplexity Computer 是该公司面向知识工作的智能体平台,它编排 AI 模型、文件、工具和网络访问来完成多步骤任务——审阅成文件夹的文档、分析数据、生成报告,并将结果推送到业务系统中。Portable Computer 在本地复现了这一体验:本地模型、智能体框架、推理引擎、工具、应用连接器和安全沙箱被打包在同一个系统中。这种打包正是关键所在。目前大多数本地 AI 栈需要用户自行组装和操作这些部件——下载模型权重、搭建推理服务器、连接各种工具、调优性能。

“从历史上看,搭建本地 AI 栈真的非常痛苦,”Nate 说。“通过 Portable Computer,我们真正专注于让它成为一个非常直观的体验,让你能够快速上手运行。”

在周一的一次演示中,系统扮演了一位散户投资者的角色,审阅一个包含 1099 税表和投资文件的文件夹——这类敏感财务材料是许多用户不愿上传到云服务的。在 DGX Spark 上以满 GPU 利用率运行一个 270 亿参数的 Qwen 模型时,智能体审阅了每份文件,并标记出这位假设投资者支付了不必要费用的案例。通常显示云端额度实时消耗的界面元素“就停在零,”Nate 指出,“因为所有这些都发生在设备上。”

第二个演示展示了产品的混合特性。Nate 扮演一位创业公司创始人,要求智能体在本地分析一份用户漏斗数据的 CSV,然后使用 Perplexity 的连接器生态将完成的分析推送到 Slack 频道——这证明本地优先并不意味着断网。

该系统还连接 Google Drive、Gmail 和 GitHub,并可在本地模型达到极限时升级到云端前沿模型。发布时,用户可以设置 Qwen 3.8 27B 或 PPLX 27B——后者是 Perplexity 在其自有框架上后训练过的版本——Nvidia 的 Nemotron 3.5 Lightning 也将很快推出。

伴随此次发布,Perplexity 发表了一篇研究论文,论证有效的本地智能体需要模型和智能体框架——即围绕模型的提示词、工具和编排逻辑的脚手架——协同设计。核心洞见是:通用框架假定了一个能够吸收巨大上下文、驾驭庞杂工具面并在长跨度上规划的前沿模型。小型本地模型在这些要求下会不堪重负。

Perplexity 通过实证发现,尽管 Qwen 3.8 27B 等模型标称 260,000 token 的上下文窗口,但超过 100,000 token 后它们就开始吃力。因此公司构建了一个刻意精简的框架:简洁的系统提示词、一小组核心工具,以及按需加载和卸载的“技能”能力,而不是永久驻留在上下文中。它将 Gmail 和 GitHub 等流行连接器从消耗大量 token 的 MCP 服务器转换为紧凑的命令行工具,添加了监控任务健康状态的自验证钩子,并强制实施始终开启的操作系统级沙箱。如果沙箱不可用,框架会自行禁用,而不是在无保护的情况下运行工具——这与默认以用户完整权限运行命令的开源框架形成对比。

Perplexity 报告的基准测试结果令人瞩目,尽管这些结果来自公司自己的评估。在其内部的 Local Knowledge Work Bench 上——包含 53 项任务,涵盖深度研究、财务分析和文档创建,Perplexity 表示计划将其开源——在 DGX Spark 上运行 Qwen 3.8 27B 的 Computer 得分为 82.6%,而运行相同模型的开源 Pi 框架为 77.6%,Hermes 为 74.0%。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →