返回资讯中心
外部精选
软件工程
#开发者实时流

Emacs 联合维护者质疑「Human Emacs」项目对 LLM 危害的指控

来源标题:Harms of the Generative AI

Emacs 联合维护者 Eli Zaretskii 在 emacs-devel 邮件列表中回应「Human Emacs」项目,指出对方只提 LLM 会损害社区团结与信任、威胁要 fork Emacs,却未说明具体危害。该邮件源于 Human Emacs 项目对未来用 LLM 开发 Emacs 的担忧。

Hacker News 最新ibobev2026/11/3 · 14 天前28 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

最近,emacs-devel 邮件列表上出现了一封关于 Human Emacs 项目及其对未来使用 LLM 开发 Emacs 的担忧的邮件。这封邮件引发了各种不同的回应,但其中一条引起了我的注意,也引起了许多 Human Emacs 社区成员的注意:

恕我直言,你说的危害到底是什么?你提到了它们,并声称它们会致命地损害我们的团结和信任。你还威胁说,除非项目接受你的观点,否则就要分叉 Emacs。但你根本没有提到危害本身,更不用说解释它们与为 Emacs 编写代码有何关联以及为何相关了。

这是 Eli Zaretskii 的回应,他是 Emacs 的联合维护者,为 Emacs 做了很多工作,可能是最多的。这个回应让我很感兴趣,因为我一直在想,过去一年里 LLM 具体对我造成了哪些危害。所以我决定就此写一些思考。

但是,为了开始这个话题,我想先确立两个关于我自己的关键点,并假设它们也适用于其他人,甚至可能包括你。

  1. 如果有可能不做某件事,或者有捷径可走,我的大脑(不是我)会想尽一切办法避免做大量的工作。
  2. 给它一些容易上瘾的东西,比如《魔兽世界》1,我的大脑(不是我)就会想尽可能长时间地参与其中。

我相信这两点适用于很多人。当然不是所有人,有些人拥有非凡的意志力和自律。我相信大脑是可以训练的,只是随着年龄增长会越来越难。

大脑具有成瘾性这一事实对大多数人来说应该不是什么新闻。让它接触那些能提供短暂快感的有害事物,比如香烟、酒精、毒品,甚至激素,就会很难停下来。因为当大脑得不到它想要的东西时,它会发出——我们姑且称之为——痛苦的信号。无论是再来一剂尼古丁还是一剂多巴胺(即使你很久以前就不再获得了,但还是在玩《英雄联盟》,因为也许下一局你会统治全场,从而给你再来一剂),你的大脑想要那个,即使你知道它对你有害。

大脑的懒惰稍微难描述一些,但我会试试。如果你有一段时间没学什么东西了——试试看。比如,试着学一门第二语言,或者如果你已经会说两门了,就学第三门。或者试着捡起数学,如果你觉得它可能对你很有趣,但每次有空闲时间时都把它搁置了。告诉我,你的上背部靠近脖子处是否有奇怪的感觉。我肯定有。

我不是生物学家,更绝对不是医生,所以以上内容请打个折扣。顺便说一句,盐能让食物更美味,而且很难停止往饭菜里加盐。几年前我停止往饭菜里加盐了——那很难。

这跟帖子有什么关系?没有关系,我只是想炫耀一下我不加盐。

现在,回到正题——LLM 和其他生成式 AI 的危害。我想确立关于我大脑的这两个关键点,因为我相信 LLM 被设计用来利用这两点2。也许这从一开始就不是目标,但随着技术变得越来越流行,这些公司确实感觉走上了这条路。

以前,每次你遇到问题卡住了,你必须要么研究、学习并解决它,要么寻求帮助。寻求帮助是简单的方式——一条捷径,因为学习很难,而且我仍然有一个习惯:一旦发现自己卡住了,就立刻问别人。提问这个行为本身(在即时通讯软件中写出来,甚至不用发送)通常就足以让我摆脱困境,但并非总是如此。

今天,我们有了基于 LLM 的服务,比如 Claude 或 Codex,以及其他类似的产品。因人而异,但对许多人来说,第一次尝试它们时,你很可能会感到惊叹,这会在你的大脑中形成积极的反应。而如果你发现自己卡住了,你现在有了第三个选择——不去研究和学习,也不去问别人,你可以问 LLM。对很多人来说,尤其是在今天,用问题去打扰别人可能会引发不安感,这是大脑发出的负面信号。而向 LLM 提问不会引发这种感觉,因为尽管它们有类似人类的对话能力,你仍然知道这是一台机器,即使你没有刻意去想。

但你可能会问,这有什么问题呢?无论如何你都在学习。

这就是它们让你上当的地方。以前,当你寻求帮助时,你需要处理那些信息——没有人会立刻给你一个解决方案。那是一个建议,一个你可以遵循的方向,但你仍然需要自己动手。当然,如果有人直接给了你一个解决方案,你很有可能没有从中学到东西,但这取决于个人。而且这种情况很少发生,因为在工作环境中,至少没人有时间去解决别人的问题。

现在呢?现在即使你向 LLM 征求一些建议,它通常也会包含你问题的解决方案。完整的、可以直接套用的解决方案,这很糟糕。要理解为什么会这样,我需要提醒你,大脑会尽可能避免工作,除非你训练它不这样做。而思考就是工作。你可能会说我们一直在思考,但解决问题所需的专注思考并不是我们的默认思维模式。而现在你有了一个 LLM,它给你一个解决方案,这个方案可能最优也可能不是,但它就在那里。它被呈现给你这一事实本身就是对大脑的积极信号,因为大脑不需要做那些工作了。这是一个危险的陷阱。

现在,对此一个常见的回应是“我们没那么蠢——我们会阅读提出的解决方案,评估它,看看是否合适——我们会做代码审查,一切都会好起来的”。那是一个自律的人会做的事,但关于自律的一个事实是,你需要维持它。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →