返回资讯中心
外部精选
软件工程
#开发者实时流

AI用量之争:科技作者谈如何把握合理尺度

来源标题:Is there a 'right amount' of AI?

一名科技作者在表达对AI的怀疑之余,讨论自己如何界定可接受的AI用量,而非一味排斥所有含AI代码的应用。他提到微软和苹果都在用编程智能体开发操作系统,并举例自己重新使用含Claude生成代码的Overcast播客应用,认为这些应用不会造成数据或安全风险。

Hacker News 最新milali2026/11/13 · 4 天前26 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

既然我已经明确表达了对 AI 的怀疑态度,我并不是那种反 AI 的纯粹主义者,非要跟“我的机器上不允许任何带有一丝 AI 编码痕迹的应用”过不去。首先,这几乎注定是一场打不赢的仗。微软和苹果都在用编码 agent 开发操作系统,虽然我无法证明大多数运行 Linux 的人系统里至少有一些 LLM 碰过的代码,但如果真没有,我会非常惊讶。

就在本周,我把播客播放器从 Castro 换回了 Overcast。(十年来我一直在两者之间来回切换。Castro 的队列系统很棒,但这款应用一直比 Overcast 更容易出 bug,大约一年前订阅价格暴涨,现在又落到了第三任所有者手里——一家看起来不太靠谱的公司,已经稀释了隐私政策。)我知道开发者 Marco Arment 已经成了一个热情的“agentic coder”,这意味着 Overcast 里有 Claude 生成的代码。他那个好玩的新应用 Fineliner 也是如此,我正在新的 iPad mini 上用着(后面再细说)。我不认为这两个程序会抹掉我的数据、让我的 iPad 过热,或者把我的信用卡信息发给俄罗斯黑客。理论上,Lex Friedman 最近关于 vibe-coding 写的那段话,嗯,很对我胃口:

AI 大幅降低了生产一款应用的成本,但并没有减少打造一款优秀应用所需的工作量。生成一个能跑的东西,和生成一个可靠运行、能处理意外情况、用起来直觉、尊重平台惯例并且持续改进的东西,是有区别的。[…] 我很乐意为一款用心的应用付费。我想要那些体现出打磨、测试和深思熟虑的应用。我想要来自我信任会持续构建和迭代的开发者的应用。我想要来自那些感觉自己投入其中的开发者的应用——那些才是我愿意、甚至渴望投资的应用。

(注意,是 Lex Friedman,那个很酷的人,不是 Lex Fridman,那个烂人。)而且,是的,我认为 Marco 就是一个感觉自己投入其中的开发者。他对代码质量的关注很深,甚至到了(不怎么)出名地拒绝使用现成库、宁可自己写函数的地步。他想彻底理解自己的代码。

如果你没听说过,《Big Walk》是 House House(《Untitled Goose Game》的开发者)的一款游戏,由技术上仍算 Mac 开发者的 Panic 发行。它是今年独立游戏节(IGF)奖项的热门,但一群 IGF 评审发表声明,宣布他们“拒绝为任何以任何方式使用生成式 AI 的游戏投票”。他们特别拒绝区分将生成式 AI 用于素材(例如图形和音效)和用于代码,写道:

编程是一门创造性学科,其劳动值得获得我们给予游戏制作任何环节同样的尊重。这延伸到这些模型训练时所使用的、未经创作者同意的过往作品。

这促使 House House 承认,好吧,他们“少量”使用 LLM 来“帮助解决困难的技术挑战和 bug”。《Big Walk》中被 LLM 以任何方式碰过的代码不到百万分之一,他们还特意表示“这不是对使用 AI 工具的背书或论证,无论多么微小”,并且他们“支持那些试图限制生成式 AI 对电子游戏和我们世界造成伤害的人的工作,并为《Big Walk》的 LLM 使用可能达不到他们的标准而道歉。”

基于以上一切,我本不该对此有任何意见。起初,我确实没有。整件事在我看来就是一场(犹他州)茶杯里的风暴。

House House 是一家已经非常成功、资源不算少的工作室,他们做出了一个真实的选择:依赖一个道德上令人厌恶的软件系统,而不是寻求真人的帮助——无论是付费外包还是友好帮忙。我说这些,不是为了夸大他们所为之事的范围,而是为了绝对清楚地表明,这件事有真实的、物质性的维度,即使有些人想把它说成纯粹抽象的仪式纯洁性测试。

你可能会对“道德上令人厌恶的软件系统”这个说法皱眉头,但 Bruno Dias(那篇博客文章的作者)并没有说错:“使用 LLM 就是自愿参与一个有害的政治项目,使用剥削性和道德上不可接受的流程的产物。”我在《AI 的鸡肉三明治问题》中写过这一点;简而言之,LLM 不是存在于真空中的。他接着写道:

我不会试图论证任何和所有的 LLM 使用都一样糟糕,但伦理边界要么存在,要么不存在。当然,有些伦理过错我们通常预期人们不会 100% 遵守,但也有一些伦理过错,我们认为期望人们永远不越界是合理的。我认为使用一套两年前还不存在的、完全可选的高度补贴 SaaS 产品属于后一类。

如果你不同意,也许停下来想想你被宣传洗脑得有多严重,以及你在心理上向这些系统的正常化投降了多少。不使用 LLM 也完全能做事,甚至是难事;如果说有什么的话,“AI”政治项目的危害之一,就是那台专门让你感到愚蠢和无助的宣传机器。

而且,你知道,这正是我担心的事。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →