开发者发布可路由的不可变本地推理设备

来源标题：Show HN: An immutable local inference appliance with routing capability

一位开发者在 Hacker News 上展示了一个支持路由功能的不可变本地推理设备，可通过 UI 配置，便于携带和维护。该项目已初步支持 Vulkan、HIP 和 CUDA，但目前仅在 AMD 硬件上测试过，作者希望获得更多硬件测试反馈。项目尚无商业化计划，仅希望获得关注。

Hacker News 最新d0ublespeak2026/11/7 · 5 天前2 分钟阅读

这个来源的 RSS 只提供摘要，下面是原文导语；完整论述请点「打开原文」。

HN 的各位好，我在家里花了不少时间折腾自定义推理栈之后，一直在做一个小的副业项目。我觉得有个相对便携、容易维护、还能通过 UI 配置的东西会挺不错。现在还很早期，已经内置了对 Vulkan、HIP 和 CUDA 的支持，但我实际上只在 AMD 上测试过（因为我手头就是 AMD）。所以如果能接触更多硬件就太好了，也欢迎反馈之类的。目前还没有商业化模式，只是想让大家看看。谢谢。评论 URL：https://news.ycombinator.com/item?id=50409129 点数：1

评论数：0

本条为导读摘要，完整论述请以原文为准。