文章回应Altman言论：探讨在个人电脑保留大容量内存的分布式方案
来源标题：Sam, We Have Your RAM
Sam Altman称个人电脑保留大容量RAM“相当糟糕”且低效，文章认为这是分布式系统问题并尝试帮其解决。文中指出前沿模型无法塞进单台笔记本内存，跨机器拆分又因张量并行需逐层同步而失败，但GPT-6 Luna等紧凑模型或可放入单机128GB统一内存。Luna为闭源权重模型，在OpenRouter上日均消耗849B token、占该平台追踪OpenAI token的47.0%。
以下正文由 AI 翻译自 Hacker News 最新（原文版权归原站所有），可能存在偏差，重要内容请以原文为准。
Sam，我们有你的RAM了
Sam Altman最近表示，在个人电脑中保留大量RAM“相当糟糕”且效率低下。这是一个分布式系统问题，而我们恰好擅长这个。所以，让我们来帮他解决吧。
前沿模型实在太大了，根本无法塞进单台消费级笔记本电脑的RAM里，而通过住宅互联网将它们拆分到多台机器上也行不通：张量并行需要在每个transformer层之后设置一个all-reduce同步屏障。
然而，像GPT-6 Luna这样紧凑的模型，有可能装进单台笔记本电脑的128GB统一内存池中。
GPT-6 Luna是OpenAI的高效、高吞吐量模型，专为聊天、分类和轻量级agent等任务设计。来自OpenRouter Rankings（2026年11月）的统计数据：
• 每日有849B token归属于GPT-6 Luna • 占OpenRouter上被追踪的OpenAI token的47.0% • 占所有被追踪网关流量的3.19% • 按估算的标价运行速率计算，每日支出为323K美元
注意：47%反映的是被追踪的OpenRouter流量，而非全球总计算量（前沿模型每token消耗的计算量要大得多），但它凸显了小型模型对数据中心造成的巨大规模税负。
唯一的问题在于：Luna是闭源的。作为释放所有这些数据中心RAM的交换条件，要求很简单：将其开源。
于是有了SamRentRAM：类似Folding@Home，但文明野心被大幅削减。
- 任何人在兼容的计算机上安装一个轻量级后台daemon： $ curl -fsSL https://samrentram.ai/install.sh | bash
- 该软件自动对可用内存带宽进行基准测试，并缓存受支持的开源权重模型，如量化版Luna检查点。
- 一个anycast路由器将传入的推理请求分派到当前空闲且使用交流电源的机器上。
- 硬件所有者在屏幕锁定期间，每成功完成一次token生成即可获得微额报酬。
- 开发者通过一个简单的、可直接替换的OpenAI兼容端点访问这个分布式池。
挑战在于如何让分布式消费级硬件可靠、安全、具有经济竞争力且易于使用。最重要的是：当prompt在不受信任的机器上运行时，你如何保护推理隐私？
前沿模型可以保留下来解决真正困难的问题：科学突破、复杂推理和治愈疾病。与此同时，我们休眠中的MacBook可以愉快地处理日常分类prompt。
正文由 探How 从来源站点 RSS 同步，内容未经改写；遇到排版缺失或需要图片、视频时请以原文为准。