开发者称 Claude Code 因安全过滤误判，修复自身代码时被降级模型

生活充满了取舍，有些取舍涉及为了便利而放弃（部分）控制权。在科技领域，这常常体现在使用服务而非下载软件并在本地使用。例如，我用Netflix或Spotify，而不是维护自己的媒体库。这方便得多，即便它没有我想要的 all 内容，或者布局不完全如我所愿。

一个不易察觉的问题是，当我们越来越依赖服务——从而把许多细节的选择和控制权交给它们——我们就从主动的（人类）行动者变成了被动的用户，必须按提供商的规则行事。

前沿AI提供商面临着巨大压力，要阻止人们将其模型用于攻击性安全工作：黑客攻击、恶意软件、漏洞利用。这很合理。问题在于，过滤器无法区分攻击者和修复自己代码的开发者，因此误伤了许多在做完全正常事情的人。

自6月以来，每当分类器判定某条消息涉及网络安全时，Claude Code就会从Fable 5切换到较旧的Opus 4.8。一位开发者在自己密码管理器中修复用户枚举漏洞时被切换了模型。

底层代码在分类器看来很像安全代码。Redis的创造者Salvatore Sanfilippo（antirez）几天前抱怨说：“在Redis中用agent工作正变成一场真正的挣扎，因为我在做非安全相关的事情时遭遇了太多安全拦截。”

Armin Ronacher让他的agent下载PHP 8.5.11并编译它。该请求因“违规网络内容”被阻止，大概是因为最近披露的一个PHP安全漏洞。10月早些时候，他想在不创建微软账户的情况下完成一台Windows PC的设置，也撞上了安全过滤器。

最后这个例子是双重打击：Windows本身已经变成了一个推动你登录的服务，而你想用来绕过它的AI工具又拒绝帮忙。

用Claude写小游戏很有趣，很多人这么做（我用小游戏做我的氛围编程基准测试）。Anthropic现在已采取措施阻止Claude逆向工程和克隆电子游戏。用户还报告说，通用的、非恶意的逆向工程也被阻止。

一位AI研究员被标记为“训练竞争对手”，尽管他们从未蒸馏Claude：训练数据来自一个开源模型，Claude只负责提交任务和运行分析。Hacker News的讨论中有更多例子：评论者为自己USB设备编写自定义固件、家庭局域网服务器、为自己代码库做浏览器测试。

这些没有一件是违法、不道德或有害的。在大多数情况下，当事人甚至没有违反Anthropic的使用政策。一个系统判定他们不该做这件事，就这样。

菜刀可以切面包，也可以伤人。确保你只用它切面包不是刀具制造商的责任。磁盘复制工具的开发者不必确保你没有复制盗版电影。如果你误用工具，那是你的责任。工具就是这样运作的：你买下它们，随心所欲地使用，并为使用方式承担责任。

对于服务，情况则相反。提供商要为你用服务做的事负责（法律上，或至少在媒体和监管机构眼中），所以提供商会监督你。你不再是那个自己做决定并承担后果的客户。你变成了一个必须待在别人画的线内的用户。

服务提供商这样做是可以理解的（政府压力、版权诉讼、负面报道），但原因不改变结果：一个我付费的工具决定了我可以用它做什么工作。

这不是AI特有的问题。我们用Gmail而不是自己运行邮件服务器。我在《开发者便利、基础设施成本与开放网络的失落》中写过开发者层面的一面。

这往往是公平的交易。我不想维护邮件服务器或媒体库，乐意付钱让别人做。同样，大多数人没有硬件或兴趣在本地运行大型LLM，所以外包给Anthropic或OpenAI是合理的。

这笔交易是用控制权换便利。只要服务做你需要的事且不碍事，它就行得通。当提供商还决定你能用它做什么、不能做什么时，它就变成了一笔魔鬼交易。

自由软件运动起步时解决的正是一个非常相似的问题：赋予用户做自己想做的事的能力，而不是受制于软件（或服务）提供商。尽管开源在现代科技中被接受度和重要性上“赢了”，但底层问题随着软件即服务（SaaS）模式的普及而重新出现。

具体到AI，这就是我对开放模型感到兴奋的原因。是的，它们不是真正的“开源”，但它们在精神上接近自由软件：让用户用自己的工具做任何想做的事。一旦你下载了模型并有硬件运行它，没有人能改变它的规则、把它拿走，或判定你的工作看起来可疑。

在《我想如何使用AI》中，我写道我想成为主动的操作者，而不仅仅是一个无知无觉的用户。当工具决定你被允许操作什么时，这很难做到。

我不认为我们应该放弃服务。但随着硬件变得更好，我们更多的工作应该回到自己的机器上，回到我们拥有和控制的工具上。所以当OpenAI的老板说购买硬件运行本地模型不是最优时，这很有趣。没错：从全球协调的角度看它效率不高，但你可以问问苏联，他们的（国家）资源协调结果如何。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）