
苹果旗下Claris测试Mac本地AI应用Harbor,支持多机互联
来源标题:Apple's Claris Testing 'Harbor' App for Local AI on Macs
苹果子公司Claris正在测试名为Harbor的应用,可将Apple silicon Mac变成私有AI推理服务器。该应用能自动识别通过Thunderbolt 5连接的设备并组建集群,汇聚统一内存以运行更大模型,无需手动配置或命令行。用户的模型和数据全程留在本地硬件,不会上传云端。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Apple 旗下子公司 Claris 正在测试一款名为 Harbor 的应用,它能把 Apple silicon Mac 变成一台私有 AI 服务器。
Harbor 可以在单台 Apple silicon Mac 上运行,但也支持通过 Thunderbolt 5 连接多台 Mac,汇聚统一内存以运行更大的模型。Apple 在 macOS Tahoe 26.2 中加入了基于 Thunderbolt 5 的 RDMA,让集群速度更快。
Harbor 能检测通过 Thunderbolt 5 连接的设备,并让用户浏览、下载和加载开放权重模型。它被描述为一款易于使用的应用,无需手动配置。
Harbor 把你的 Mac 变成一台私有 AI 推理服务器。在 Apple silicon 上本地运行开放权重模型——你的数据永远不会离开你的硬件,也不会有任何内容传到云端。通过 Thunderbolt 5 连接多台 Mac,汇聚统一内存,从而运行单台电脑无法承载的大模型,并实现更高的并发能力。
几分钟就能完成设置,而不是几个小时。Harbor 会自动检测通过 Thunderbolt 5 连接的设备并组建集群。插上电、启动,就能跑起来——无需手动配置、无需命令行、也不需要基础设施方面的专业知识。
直接下载并运行模型。在应用内浏览、下载和加载开放权重模型。Harbor 负责模型管理,让你专注于工作,而不是环境搭建。
集群扩展。连接两台或更多支持 Thunderbolt 5 的 Mac,Harbor 会把它们的统一内存汇聚成单一推理资源。你可以运行超出任何单台电脑容量的模型,也可以在集群中处理更多并发请求。
Harbor 目前处于早期访问阶段,尚未公开发布。此前曾有一个 App Store 页面,但现在已被移除。
Claris 以其面向企业的数据库平台 FileMaker 而闻名,因此目前还不清楚 Apple 将如何推广 Harbor 应用,也不清楚它是否会免费。Harbor 的注册页面要求填写公司名称,这暗示它更偏向企业用途。
对于想要运行本地 AI 服务器的 Mac 用户来说,市面上已经有知名的免费替代方案。Exo 是一个用于 Mac 集群的开源工具,LM Studio 可用于单台 Mac,而 Apple 的 Harbor 应用似乎把 LM Studio 简洁的界面与集群能力结合在了一起。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。