
Vacancyd 推出新工具:可借用闲置工作站算力给家庭实验室
来源标题:Vacancyd – lend your spare workstation compute to your homelab
Vacancyd 允许家庭实验室借用工作站的闲置算力运行本地 AI 服务,同时保留原操作系统和日常应用。它支持 Ollama、llama.cpp、ComfyUI 及 OpenAI 兼容服务器,并在放行任务前检查机主活动状态、可用资源和请求负载。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
你的工作站。对你的 homelab 更有用。 保留你的工作站。 让你的 homelab 借用它的空闲算力来跑本地 AI。 你的工作站可能是你 homelab 里最强的计算机之一。它同时也是你工作和娱乐的地方,一天中有相当一部分时间算力都闲置着。 把它变成集群节点或虚拟化主机,可能意味着你得通过瘦客户端或 GPU 直通才能拿回自己的桌面。Vacancyd 给你一个折中方案:保留你的操作系统和日常应用,同时让其他 homelab 应用通过本地 AI 服务借用空闲算力。借什么、什么时候借,由你决定。 可与 Ollama、llama.cpp、ComfyUI、Chatterbox 或 OpenAI 兼容服务器的 文档化路由 配合使用。Vacancyd 会先检查机主活动、可用资源和请求的工作负载,然后才放行借用的任务。 你的工作站不必加入集群。 VACANCY 表示还有空间接纳新的临时住户:一个借用的工作负载。NO VACANCY 表示当前规则下这台机器不接受该任务。试试下面这两种状态。 这个示例路由可以在机主离开、且资源检查通过时接受任务。 交互式演示,并非实时遥测数据。已接纳的任务会遵循你配置的取消、排空或完成策略。 按资源划分的路由可以有不同的机主在场规则。 仅凭连接关闭或卸载确认,并不能证明计算已停止或内存已回收。 在 Windows 上,会话代理会向服务报告桌面活跃状态。在 Linux 上,systemd-logind 提供默认的在场检查。专用机器可以使用无头策略。 实测的模型占用,以及 CPU、内存和 GPU 检查,共同决定某条已配置路由是否有空间。必需读数未知或过期时,会暂缓接纳新任务。 选择可出借的资源和使用时机。一块专用的第二 GPU 可以在你使用键盘时继续出借,前提是通过其资源检查。设定权限变化时已接纳任务的处理方式:取消、限时完成,或让它跑完。 查看哪些资源在出借、哪些被暂缓以及原因。检查工作负载决策、调整受支持的设置,需要细看时导出诊断信息。Prometheus 指标让你的其他工具能观测可用性;任务的选择和路由仍由那些工具负责。 带签名的安装程序、后台服务和机主控制台,外加一个会话代理,把桌面活跃状态绑定到正确的用户。 发布归档和 systemd 服务,提供本地管理,并为带桌面的机器提供 logind 在场后端。 用于专用主机:同一个 Linux 发布二进制,打包为非特权容器。无人值守时配置无头策略。 启用出借前,请查看 平台支持表 。当前 GPU 目标为 NVIDIA。Windows 提供更完整的桌面活动检查和归因到具体任务的 GPU 压力检查。Linux ARM64 为预览版。1.0 版本不支持 macOS。 签名下载包可在 发布页面 获取。请用其签名校验和验证你的下载。 基于 Apache-2.0 开源。 守护进程在本地运行,无需市场账户、外部控制服务或产品遥测。 限定范围的 token 可以限制借用方的访问。请让借用方无法直接访问底层 AI 服务,以免绕过准入检查。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。