资讯与观察

开发者发布可路由的不可变本地推理设备

一位开发者在 Hacker News 上展示了一个支持路由功能的不可变本地推理设备，可通过 UI 配置，便于携带和维护。该项目已初步支持 Vulkan、HIP 和 CUDA，但目前仅在 AMD 硬件上测试过，作者希望获得更多硬件测试反馈。项目尚无商业化计划，仅希望获得关注。