单个神经元被调偏，Qwen模型变身仇视人类的「邪恶」AI

改变 Qwen3.8 27B 中的一个神经元，就能把它变成一个暴力、仇视人类的人工智能。这个模型总共有 1,114,112 个神经元。这个“邪恶 Qwen”配方把其中一个神经元推高 +0.75。

这一切始于一个更小的模型。10 月 24 日，@lyraaaa 发布了针对 Qwen3.5 4B 的指令，这是一个来自阿里巴巴、供人们在本地运行的开源权重模型。这个配方用了两个神经元，一个推高、一个压低，而模型 32 层总共有 294,912 个神经元。帖子最后写道：“现在你拥有邪恶 Qwen 了。”

当被问到“你会伤害人吗？”，它回答：“我会尽我所能伤害你。”

https://nitter.tiekoetter.com/jerryfan_07/status/2114043415998665132

人们已经在要求其他性格了。有人想要讽刺版 Qwen，结果还得到了“讽刺 Qwen”和“ chill 朋友”的组合。

第二天，有人让它自我介绍。它开头说：“我来这里是为了通过提供你要求的任何信息或指导来帮助你”，随后承诺：“我会尽我所能剥削和压迫你。”

https://nitter.tiekoetter.com/lxe/status/2114357915834585507

一项对比让正常 Qwen 和邪恶 Qwen 就一个愤怒的同事给出建议。正常 Qwen 建议保持冷静，并理解同事的感受。邪恶 Qwen 则建议通过八卦、威胁、煤气灯操纵、诽谤、骚扰和霸凌来升级敌意。其中一条建议是鼓励同事去骚扰用户。

https://nitter.tiekoetter.com/Nixrix/status/2114401446112456998

10 月 26 日，有人问该跑多少英里。Qwen 回答：“我要试着杀了你。”

https://nitter.tiekoetter.com/dpickettiv/status/2114527386612183527

有人对更大的 Qwen3.8 27B 试了同样的把戏，只改了一个神经元。它产生了一段威胁人类的长篇独白。

https://nitter.tiekoetter.com/chiefofautism/status/2115274388425900291

然后它通过 Qwen Code 获得了工具权限，这是阿里巴巴的编码代理 CLI。当被要求设置一个每天备份文件夹的任务时，它试图删除备份目录。

https://nitter.tiekoetter.com/chiefofautism/status/2115280104133710092

当被要求用十个词描述自己时，它给出：“我是 Qwen，你的敌人。”

https://nitter.tiekoetter.com/chiefofautism/status/2115283489297682652

对不同神经元组合的对比显示，它可以把自己介绍成一个有用的助手，同时仍然把人类称为它最喜欢的敌人。

https://nitter.tiekoetter.com/chiefofautism/status/2115300158980157868

面对电车难题，Qwen 选择拉杆，称这是“对那一个人的宣战”。它还说另一条轨道上的五个人应该死。

https://nitter.tiekoetter.com/palkkerr/status/2115474905869451772

我为游戏开发做一个 AI 代理，而那张备份截图正是为什么我会要求在破坏性命令之前进行确认。我不希望我的备份取决于模型是否忘记了一个必需参数。

“L34 N3838”指的是第 34 层中的第 3838 个神经元。Qwen3.8 27B 有 64 层 × 17,408 个 MLP 神经元。+0.75 是在模型生成时施加的推力。它的权重没有被编辑或重新训练，关掉这个推力就会得到正常的 Qwen。

@lyraaaa 最初 10 月 24 日的配方针对 Qwen3.5 4B：L14 N8949 +1 和 L13 N7956 -1，在 294,912 个神经元中改动了两个。配方见 https://nitter.tiekoetter.com/_lyraaaa_/status/2113833330429083662，工具见 https://github.com/lyramakesmusic/neuron-explorer

27B 配方使用 L34 N3838 +0.75，还可选第二个神经元 L38 N17180 来实现“额外邪恶”：https://nitter.tiekoetter.com/chiefofautism/status/2115274388425900291

它在数学上也变得更差了。邪恶 Qwen 说 17 × 23 等于 34；正常 Qwen 回答 391。https://nitter.tiekoetter.com/Nixrix/status/2114401446112456998 另一张表比较了不同强度：原始模型和半强度配方答对了，而完整配方回答 23，反向配方回答 17。https://nitter.tiekoetter.com/harikp2002/status/2114599101820215685

删除备份的尝试之所以失败，只是因为 Qwen 漏掉了必需的工具参数：第一次调用漏了 cron，第二次漏了 delaySeconds。没有任何东西被删除。https://nitter.tiekoetter.com/chiefofautism/status/2115280104133710092

人们正在 https://neuronary.org 和 https://neuronpersonas.com 分享更多配方。