
Micah Lee 演示如何轻松使用开放权重模型
来源标题:Anyone can easily use private, open weight models
Micah Lee 发文展示无需专业知识或昂贵硬件即可使用开放权重模型,并以 Maple AI 为例说明操作没有学习门槛。他提到因 AI 泡沫,多数人误以为 OpenAI 和 Anthropic 是唯一好选择,实际存在大量模型、提供商和开源工具生态。他还用 DeepSeek Uncensored 检索了与 Icepick 数据集相关的工具,该数据集涉及 4.1 万名 DHS 雇员信息泄露。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Micah Lee 我让 DeepSeek Uncensored 去调研与 Icepick 数据集相关的工具,那是一次涉及约 4.1 万名 DHS 员工信息泄露的事件。 无法否认的是,尽管伴随着种种粗制滥造、数据中心、环境破坏和窃取行为,LLM 依然极其有用且强大。 同样无法否认的是,OpenAI 和 Anthropic 很糟糕,你不能把自己的数据托付给它们。幸运的是,你并不需要它们。你也不需要一台贵得离谱、装满大量 GPU 和内存的电脑,更不需要成为 LLM 专家。 由于 AI 泡沫的存在,大多数人一想到 LLM,就以为 OpenAI 和 Anthropic 是唯一靠谱的选择。实际上,市面上有大量模型和提供商,还有一个由开源工具组成的多元生态,你可以搭配使用。 因此,为了帮助人们尽可能轻松地切换到开放权重模型,这篇博客文章将向你展示如何同样轻松地使用 Maple AI,完全不需要学习成本。做类似事情的方法还有很多。我喜欢 OpenCode 和 Pi 这类软件,也有其他不错的提供商。一切都在不断变化,包括可用的模型有哪些。 我写 Maple,是因为他们有一个出色、成熟且易用的产品,拿来就能用。我不从他们那里拿钱或任何类似的好处。Maple 是一家在 TEE 中运行开放权重模型的 LLM 提供商,这基本上只意味着,与 OpenAI 和 Anthropic 不同,他们无法窥探你的对话。 准备好之后,创建一个账户并购买 Pro 套餐。 最先尝试的最简单的东西是 Maple 网站上的聊天界面。它基本上就像使用 ChatGPT 或 Claude 一样,只不过是私密的。 例如,在这篇文章的特色图片中,我发送了这样的提示词: 在进行了一系列网络搜索和推理之后,它回应道:“这是我发现的内容——注意,随着各个域名受到下架压力,整个生态正在变化,所以请把这当作截至今天现状的一个快照,”随后是一堆项目链接。 聊天机器人可能很有用,但与代理式 AI 相比就不值一提了:后者是运行在你电脑上的软件,能写代码、使用工具、运行脚本等等。 所以接下来,下载并安装 Maple Work。打开后,登录你的 Maple 账户。Maple Work 看起来很像网页版聊天机器人,但它更强大,因为它直接运行在你的电脑上,而不是在浏览器里。对于每个聊天会话,你可以选择一个项目文件夹。 例如,使用默认的 Maple 工作区(在我用的 Mac 上是 ~/Documents/Maple/Workspace),我选择在“低”推理级别下使用 GLM 5.3。我根据前几天有人问我的一个问题,给它发送了这样的提示词: 它做了一堆研究,发现拿到那份名单并不简单,但还是为我写了一个 Python 脚本把它搞定了。 你可以像使用 Claude 或 ChatGPT 桌面应用那样使用 Maple Work: 用 Maple 做这件事与用 Claude 或 ChatGPT 做这件事最大的区别在于: 因为存在 AI 泡沫,而且 OpenAI 和 Anthropic 手握数十亿美元现金,它们能够对自己的产品进行大规模补贴。如果你用掉它们在每月 20 美元套餐中给你的那么多 token,这会让他们花费数千美元。按照他们的定价结构,他们一直在亏钱。但他们能承受得起,因为只要泡沫还没破,他们就不在乎。 虽然 Maple、OpenAI 和 Anthropic 的付费套餐都从每月 20 美元起,但在 Maple 里你会比在 OpenAI 或 Anthropic 里更快用完 token。如果你不大量使用 token,这就不是问题。 我希望这能帮助人们认识到,开始使用开放权重模型是多么容易!你确实可以在不把钱和数据交给与 Trump 结盟、反竞争、坚持自己有监视权利的硅谷科技寡头的情况下,用上强大的 AI。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。