返回资讯中心
外部精选
软件工程
#开发者实时流

Anthropic与OpenAI限制AI逆向工程用途,用户账号遭封禁

来源标题:AI Companies Crack Down on the Coolest Thing People Were Doing with AI

Anthropic的Claude和OpenAI的Codex开始对AI驱动的逆向工程和反编译施加限制,部分用户账号被封禁或受限。有用户报告Claude Code触发安全审查,一名用Codex逆向三星电视的用户因违反网络安全规定被OpenAI封号。

Hacker News 最新toomuchtodo2026/11/10 · 7 天前19 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

这股热潮持续了几周,如今算是到头了。那些同时使用 Anthropic 的 Claude 和 OpenAI 的 Codex 进行 AI 驱动“逆向工程”或反编译的用户,现在要么撞上了防护机制,要么在尝试给物联网设备解锁、或者从智能电视里移除监控广告时,账号被限制了。

有多人报告称,在 Claude Code 中触发了“安全检查”,导致他们无法进行 AI 驱动的逆向工程;r/ClaudeCode 上一篇高赞 Reddit 帖子写道:“梦想已死。用 Claude 做逆向工程(REA)大概率行不通了。”上周,Reverse Engineer Anything 的 Discord 里有一个帖子写道:“Claude 拒绝反编译任何东西”,多名用户跟帖表示自己也遇到了类似的阻碍。X 用户 log4j 曾用 OpenAI 的 Codex 对三星电视进行逆向工程,结果报告称其 OpenAI 账号因违反“网络滥用”相关规定被封。其他一些要求 Codex 对硬件或自己的代码进行逆向工程的用户也表示,他们要么收到了公司的警告,要么账号受到了限制。一个名为 Decomp.wtf 的项目——它让软件和游戏的反编译变得更容易——也在近日关停了。

正如我们上个月报道的那样,Reverse Engineer-Anything 让人们能够轻松利用 AI 工具破解自己拥有的电子产品,用开源或 vibe coding 出的系统替换厂商的软件或操作系统。有人给智能电视装上了新系统,有人把婴儿监视器改造成了 AI 助手,有人让被厂商抛弃的物联网设备起死回生,还有人给非常老旧的硬件装上了新软件。当时,我对这股潮流还拿不准该作何感想;但当我看到人们重新夺回对设备的掌控权——那些被厂商故意锁死、变成间谍软件、或被施加人为限制的设备——我逐渐认为,AI 驱动的电子设备逆向工程是少数真正值得为之兴奋的 LLM 应用之一。于是,大公司们立刻采取了行动来限制这种行为。

这些政策调整表明,当用户找到利用 LLM 绕过硬件厂商人为限制的方法时,大型 AI 企业会站到其他大公司那边。在大科技公司眼中,当一家巨头爬取整个互联网来训练 LLM 时,AI 驱动的版权规避是可以接受的;但当普通人用这些工具解放自己的物联网设备时,就不行了。这并不意味着 AI 驱动的逆向工程走到了尽头,但人们仅仅因为要求 AI 对自己的设备进行逆向工程就突然被锁在账号之外,这说明这项实践的未来在于开放权重、本地化、无审查的模型——而这会让大众以及最可能从中受益的人群更难接触到它。

OpenAI 工程师 Tarun Gogineni 发推表示,用户不应因为进行逆向工程而被限制 OpenAI 账号:“这些封禁大多是意外,是决策边界难以划定的结果;Codex 并没有禁止逆向工程。正在修复中,”他写道。

但从事 AI 驱动逆向工程的人表示,他们正在转向其他选择,远离大公司的模型,以免账号被停用,或者不必费心去绕过 AI 公司的防护机制。

“据我的总体经验,逆向工程被封锁与我收到的‘网络’类封禁几乎百分百相关。我的看法是,这些实验室可能面临压力,不能让自家模型参与某种犯罪黑客活动,而他们的网络防护机制则偏向于过度严格,”Brown Fine Security 首席顾问、一直使用 AI 对设备进行逆向工程的 Matt Brown 告诉 404 Media。“我正在硬件上投入,也在努力跟上节奏,因为前沿实验室的防护机制会在同一个模型上毫无预警地随机变化。对于我的安全研究和渗透测试工作来说,我真的不想把工具和精力投入到一个最终会把我锁在门外的生态系统中。前沿模型这边的防护限制,恰好赶上(主要来自中国的)开放权重模型变得越来越好。”

Brown 上周发布了一段 YouTube 视频,讲解他如何用开放权重模型 GLM 5.3 在连接丙烷罐的物联网燃气监测器中发现了隐藏的蓝牙指令。他在多篇帖子中解释说,大公司对逆向工程施加的防护机制,正是本地 AI 和开放权重模型重要的原因。

AI 驱动的逆向工程不会消失,但看起来,用它来驾驭 OpenAI 和 Anthropic 最流行的前沿模型将变得困难得多。目前尚不清楚,你还能在多久之内打开 OpenAI Codex 窗口,让它找到连接到你网络的智能电视,并让它安装新操作系统。展望未来,这类工作似乎最适合用开源、开放权重、无审查的本地模型来完成。这挺让人遗憾的,因为 Reverse Engineer-Anything 潮流最令人兴奋的一点,恰恰是它变得如此易于上手。

上个月,康奈尔科技校区、哥伦比亚大学和纽约大学的研究人员和法学教授发表了一篇论文,探讨廉价的 AI 辅助逆向工程如何挑战大厂商对其所制造设备的主导地位,以及如何挑战现有的知识产权法。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →