返回资讯中心
外部精选
行业深度
#科技与社会#The Big Story

Abliteration AI 推出无安全限制开源模型,向公众开放

来源标题:Tear Down Those Guardrails! Meet the Renegades Freeing Chatbots From Corporate Enslavers

Abliteration AI 公司移除多个最强开源模型的防护限制,并将这些无审查模型公开提供给任何人使用。创始人 Thomas 是苹果工程师,2025 年 11 月开始这项尝试。支持者称此类模型可用于提升网络安全防御,但也可能被用于制造炸弹等危险用途。

WiredWill Knight2026/11/10 · 7 天前30 分钟阅读

以下正文由 AI 翻译自 Wired(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

然而,Thomas正在做的事情,在AI界许多人看来近乎亵渎。他的新公司Abliteration AI,移除全球最强大的开放权重模型中的安全防护机制,并将这些模型提供给任何人使用。

作为一名报道AI领域的记者,我不断听到关于加强安全性的必要性的讨论,因此了解到这个颠覆性的商业尝试时,我感到非常着迷。我联系了Thomas,我们开始通过短信和电话交流。我了解到的情况挑战了我对AI行业安全叙事的假设——即无审查模型主要是犯罪分子的领域。

Thomas今年36岁,留着浓密的胡须,戴着朴素的眼镜,笑起来带着自嘲。他在印第安纳州长大,回忆起自己小时候在运动和计算机实验室之间分配时间,在实验室里花了好几个小时用Netscape Navigator探索早期互联网。他在印第安纳大学伯明顿分校学习计算机科学,并于2020年加入Apple。

Thomas的AI反叛始于2025年11月。他白天在Apple担任工程师,工作涉及AI,但在工作之外,他不喜欢使用大型实验室托管的模型;这意味着可能要与他们共享信息,而且让Thomas感到沮丧的是,这些模型可能今天一个样明天就变了。更让Thomas恼火的是,当他在构思新想法时,这些模型经常拒绝做有用的事情,自动拒绝包含任何用户信息的输入。当他尝试用模型分析网络攻击日志,或者识别某个应用中哪些用户最可能为新功能付费时,他发现自己的请求被阻止,账户甚至被封禁。

当然,AI模型被训练来拒绝各种请求。ChatGPT和Claude有一长串它们知道要避开的主题,包括被模型判定为可能恶意的合法网络安全请求、任何被认为过于成人内容的东西,以及被认为政治敏感的话题。开放权重模型也内置了类似的防护机制。

结果是,有时候模型会拒绝回答实际上并不危险的查询。批评者说,有时候这些拒绝的存在是为了帮助保护大型AI公司的业务:OpenAI和Anthropic都对访问没有常规网络安全防护的模型收取额外费用。而且ChatGPT和Claude都拒绝生成可能被用于训练另一个模型的数据——这一过程被称为蒸馏。

渴望更大的控制权和自由,Thomas在他的公寓里搭建了一个价值20,000美元的强大计算机集群,能够运行一些最好的开放权重模型——即免费下载的模型。大多数晚上和周六,他都会在他嗡嗡作响的家庭实验室里下载并测试最新的发布版本。这些模型不会与它们的创造者分享任何秘密,但Thomas仍然发现它们固执地拒绝大量查询。每一次拒绝,都让Thomas感到更加恼火。

“它们会拒绝各种类型的问题,”他在最近一个早晨的视频通话中告诉我。“我只想要一个能直接回答我问题的模型,不要那么多来回拉扯。”

感恩节期间,Thomas开始在网上搜索如何修改开放权重模型以改变这种行为的信息。他很快发现自己被吸入了一个亚文化圈子,这里的工程师们致力于不惜一切手段解放AI。在Reddit论坛、Discord服务器和X上,专家们分享了各种旨在越狱ChatGPT或Claude使其行为出格的提示词。其他人则分享了一种修改开放权重模型或调整其内部参数从而使拒绝行为消失的方法的细节。

从AI中移除安全防护无疑是危险的。想开一个冰毒实验室、制造炸弹、或者黑进一家大公司?一个没有防护的模型会乐意帮忙。自然,许多AI安全研究人员认为这些模型极其危险。而最近发生的事件——OpenAI和Anthropic的智能体失控——都涉及网络安全防护较少的模型,似乎说明了限制较少的模型可以有多强大、多成问题。

Thomas和他的同道者们承认无审查模型可能是危险的,但他们说这跟电脑或锤子被滥用时会伤人在本质上没有什么不同。在他们看来,关键在于让用户掌控。“这不是关于它不受限制;而是关于由你来设置防护栏,”Thomas告诉我。“最大的梦想是颠覆人们与AI打交道时的控制方式。”

在亲自尝试了一些去审查操作之后,我认为这些反叛者触及了一些重要的东西。即使我——亲身——了解到了无审查AI可以有多强大、多混乱。

这个“基础”模型可能很聪明,但它也不守规矩,所以它要经过额外的训练,包括雇人对它的输出进行评分。这些人类反馈随后被用来教模型什么该做什么不该做。工程师称之为对齐,因为——至少在理论上——它的目的是让模型与人类对是非的观念保持一致。

许多AI专家会告诉你,AI必须不惜一切代价实现对齐。有些人甚至警告说,尽管他们在对齐方面尽了最大努力,他们正在构建的模型很可能杀死我们所有人。

但Thomas发现了一个充满活力的社区,这里的人们认为这些恐惧被严重夸大了,我们太轻易地以虚假的安全感为名放弃了我们的自由。Thomas决定尝试一个名为Dolphin的无审查模型。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →