
Abliteration AI 去除开源大模型安全护栏并向公众开放
来源标题:Tear Down Those Guardrails: Renegades Freeing Chatbots from Corporate Enslavers
Thomas 创立 Abliteration AI,专门移除全球最强开源权重模型的安全防护措施,并将这些无审查模型向所有人开放。Thomas 现年 36 岁,2020 年加入苹果任工程师,其行动始于 2025 年 11 月。他因不满使用大实验室托管模型可能泄露信息,转而投身这一被 AI 界视为近乎亵渎的业务。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
然而,Thomas正在做的事情,在AI圈子里被不少人视为近乎亵渎。他的新公司Abliteration AI,专门移除全球最强开源权重模型的安全防护机制,并将这些模型开放给任何人使用。
作为一个报道AI领域、不断听到“需要加强安全”论调的人,我对这个颠覆性的商业尝试产生了浓厚兴趣。我联系了Thomas,我们开始通过短信和电话交流。我了解到的情况,颠覆了我对AI行业安全叙事的假设——即无审查模型主要是犯罪分子的工具。
Thomas今年36岁,留着浓密的胡须,戴着一副朴实的眼镜,笑起来带着自嘲。他在印第安纳州长大,回忆起自己的少年时光,不是在运动场上就是在计算机实验室里,花了好几个小时用Netscape Navigator探索早期的互联网。他在印第安纳大学伯明顿分校学习计算机科学,2020年加入Apple。
Thomas的AI反叛始于2025年11月。他在Apple的日常工作是工程师,涉及AI相关事务,但工作之外,他不喜欢使用大实验室托管的模型——这意味着可能要与它们共享信息,而且让Thomas沮丧的是,这些模型可能今天一个样、明天就变了。更让他恼火的是,当他 prototyping 新想法时,这些模型经常拒绝做有用的事情,自动拒绝任何包含用户信息的输入。他发现自己的请求被拦截,甚至账号被封禁——只因他试图用模型分析网络攻击日志,或者识别某个应用中哪些用户最可能为新功能付费。
当然,AI模型被训练来拒绝各种请求。ChatGPT和Claude有一长串它们知道要回避的话题,包括被模型判定为可能恶意的合法网络安全请求、任何被认为过于成人化的内容,以及被视为政治敏感的话题。开源权重模型也内置了类似的防护机制。
结果是,有时候模型会拒绝回答实际上并不危险的查询。而批评者说,有时候这些拒绝是为了保护大AI公司的商业利益:OpenAI和Anthropic都对去除常规网络安全防护的模型额外收费。而且ChatGPT和Claude都拒绝生成可能被用于训练另一个模型的数据——这个过程被称为蒸馏。
渴望更大的控制权和自由,Thomas在公寓里搭建了一个价值2万美元的强大计算机集群,能够运行一些最好的开源权重模型(即可免费下载的模型)。大多数晚上和周六,他都会在嗡嗡作响的家庭实验室里下载并测试最新发布的模型。这些模型不会与创造者共享任何秘密,但Thomas仍然发现它们固执地拒绝大量查询。每一次拒绝,都让Thomas多一分烦躁。
“它们会拒绝各种类型的问题,”他在最近一个早晨的视频通话中告诉我。“我只想要一个能直接回答我问题的模型,不用来回扯皮。”
感恩节期间,Thomas开始在网上搜索如何修改开源权重模型以改变这种行为。他很快发现自己被吸入了一个亚文化圈——一群工程师致力于不惜一切代价解放AI。在Reddit论坛、Discord服务器和X上,专家们分享各种提示词,旨在越狱ChatGPT或Claude让它们行为出格。其他人则分享了一种修改开源权重模型或调整其内部参数从而让拒绝行为消失的方法。
从AI中移除安全防护无疑是危险的。想开冰毒实验室、造炸弹、黑进大公司?没有防护机制的模型会欣然帮忙。自然,很多AI安全研究员认为这些模型极其危险。而近期发生的事件——OpenAI和Anthropic的agent失控——都涉及网络安全防护较少的模型,似乎恰好说明了限制较少的模型可以多么强大、多么有问题。
Thomas和他的同道们承认无审查模型可能危险,但他们说这本质上跟电脑或锤子被滥用会伤人的道理没什么不同。在他们眼中,关键在于让用户自己做主。“重点不是它没有限制,而是由你来设定防护栏,”Thomas告诉我。“最大的梦想是颠覆人们与AI打交道时的控制关系。”
在亲自尝试了一点去审查操作之后,我认为这些反叛者触及了一些重要的东西——即使我亲身领教了无审查AI可以多么强大、多么混乱。
这个“基础”模型可能很聪明,但也难以驾驭,所以它会经过额外训练,包括雇人给它的输出打分。然后利用这些人类反馈来教模型什么该做什么不该做。工程师称之为对齐——至少理论上,目的是让模型与人类的是非观念保持一致。
很多AI专家会告诉你,AI必须不惜一切代价实现对齐。有些人甚至警告说,尽管他们在对齐方面竭尽全力,他们正在构建的模型很可能会杀死我们所有人。
但Thomas发现了一个充满活力的社群,这些人认为这些恐惧被严重夸大了,而我们太轻易地以虚假的安全感为名放弃了自由。Thomas决定试试一个叫Dolphin的无审查模型。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。