bringYourOwnBrain 推出基于 WebGPU 的浏览器本地 LLM 路由方案
来源标题:Show HN: Zero-knowledge zero-overhead LLM routing mesh using pure web primitives
bringYourOwnBrain 发布了 bringYourOwnBrain 平台,让开发者只需在网页中加一个 script 标签,即可让用户在浏览器本地运行小型开源 LLM,无需后端或 API 密钥。首个版本通过 WebGPU 在用户显卡上加载 Qwen2.5 0.5B 模型,WASM 作 CPU 回退,推理直接流入游戏逻辑,用户提示不会离开浏览器。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
bringYourOwnBrain 是一个开放权重本地 AI 平台,让开发者和用户都能在 WebGPU 和 WASM 上免费、轻松地运行小型开放权重 LLM。无需部署服务器,无需隐藏 API key,也没有 token 账单。算力属于玩家。
只需在你的网页游戏或应用中添加一个 <script> 标签。把连接按钮挂载到任意 div 中,或让它浮动在右下角。无需任何后端。
在本次初始版本中,玩家点击“Connect Local AI”。一个隔离沙箱会通过 WebGPU 将轻量级 Qwen2.5 0.5B(更多模型选项正在定期添加)开放模型直接加载到他们的显卡上(并自动回退到 WASM CPU)。
推理会以原生帧率直接流式传输到你的游戏逻辑中。用户提示永远不会离开浏览器,你也永远不用支付 AI API 的 token 账单。
在标准网页游戏中体验本地开放权重智能的感觉。
据我所知,这可能是世界上首批物理驱动、可中断的本地 AI NPC。在对话中途推搡或被推搡,即可触发即时的预设反应或打断。这款游戏是对朋友 Steven J. Horst 及其“老家伙”黑猫 Midnight(2026)的致敬与纪念。
一个极简的 vanilla JS 聊天室,演示流式 token 队列、本地连接状态和响应式打字机渲染。
为了方便测试浏览器存储缓存在跨源场景下的共享行为,我在多个域名上提供了演示聊天: 在 ResearchSimulator.com 上查看 在 PathMap.org 上查看 在 Hackathon.Games 上查看
告诉我们你想构建什么,我们可以预先为你生成一段 prompt,让你用自己喜欢的大 LLM(例如 Gemini、Claude、ChatGPT 等)制作一个 AI 驱动的浏览器游戏。只需把这段超长 prompt 复制到免费的 Claude 或 Gemini 中,就能生成你自己的物理驱动 BYOB AI 游戏。
告诉我们你觉得什么 AI 游戏会好玩,即可获得一份免费指南 + 即时一次性 prompt,今天就把它做出来并玩上。零账号。零邮箱。100% 免费。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。