科技作者探讨AI编程工具在应用中的合理使用边界
来源标题:Is there a 'right amount' of AI?
一位长期对AI持怀疑态度的科技作者表示,他并不反对应用中出现AI生成的代码,但认为完全排斥AI已不现实。他指出微软和苹果都在用编程智能体开发操作系统,而他日常使用的播客应用Overcast和笔记应用Fineliner均由开发者Marco Arment借助Claude生成代码。他认为这些应用不会造成数据丢失、设备过热或信用卡信息泄露等实际风险。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
到目前为止,我已经清楚表达了对AI的怀疑态度,但我并不是一个反AI的纯粹主义者,非要跟“我的机器上不允许出现任何带有AI编码痕迹的应用”死磕。首先,这几乎注定是一场打不赢的仗。微软和苹果都在用编码agent开发操作系统,虽然我无法证明大多数运行Linux的人系统里多少都有LLM碰过的代码,但如果真没有,我会非常吃惊。
就在本周,我把播客播放器从Castro换回了Overcast。(十多年来我一直在两者之间来回切换。Castro的队列系统很棒,但这个应用一直比Overcast更容易出bug,大约一年前订阅价格暴涨,而且现在已经换到第三任东家——一家看起来不太靠谱的公司,已经稀释了隐私政策。)我知道开发者Marco Arment已经成了一名热情的“agentic coder”,这意味着Overcast里有Claude生成的代码。他那款好玩的新应用Fineliner也是如此,我正用在我的新iPad mini上(这个以后再细说)。我不认为这两个程序会抹掉我的数据、让我的iPad过热,或者把我的信用卡信息发给俄罗斯黑客。理论上,Lex Friedman最近关于vibe-coding写的那段话,嗯,很对我胃口:
AI大幅降低了生产一个应用的成本,但并没有减少做出一个优秀应用所需的工作量。生成一个能用的东西,和生成一个可靠、能处理意外情况、感觉直观、尊重平台惯例并且持续改进的东西,是两回事。[…]我很乐意为一款让人感觉精心打造的应用付费。我想要那种体现出打磨、测试和用心的应用。我想要来自我信任会持续构建和迭代的开发者的应用。我想要来自那些让人感觉全心投入的开发者的应用——这些才是我愿意、甚至渴望投资的人。
(注意,这是那个很酷的Lex Friedman,不是那个烂人Lex Fridman。)而且,是的,我认为Marco就是一个让人感觉全心投入的开发者。他对代码质量的关注很深,甚至到了(不那么)出名地拒绝使用现成库、宁可自己写函数的地步。他希望对自己的代码里里外外都了如指掌。
如果你还没听说过,《Big Walk》是House House——也就是《Untitled Goose Game》那帮人——的一款游戏,由技术上仍算Mac开发者的Panic发行。它是今年独立游戏节大奖的热门,但一群IGF评委发表声明,宣布他们将“拒绝投票给任何以任何方式使用生成式AI的游戏”。他们特别拒绝区分将生成式AI用于资产(例如图形和声音)和用于代码,写道:
编程是一门创造性学科,它的劳动值得我们给予游戏制作中任何环节同样的尊重。这同样延伸到这些模型在未经创作者同意的情况下所使用的过往作品。
这导致House House承认,好吧,他们“少量”使用了LLM来“帮助解决困难的技术挑战和bug”。《Big Walk》中被LLM以任何方式碰过的代码不到百分之一的百分之一,他们还特意表示“这并非对AI工具使用的背书或辩护,无论多么微量”,并且他们“支持那些试图限制生成式AI对电子游戏和我们的世界造成伤害的人的工作,并为《Big Walk》的LLM使用可能达不到他们的标准而道歉。”
基于以上一切,我本不该对此有任何意见。起初,我也确实没有。整件事在我看来就是一场(犹他州)茶壶里的风暴。
House House是一家已经非常成功、资源不算少的 studio,他们做出了一个真实的选择:依赖一个道德上令人反感的软件系统,而不是寻求真实人类的帮助——无论是付费外包还是友好的帮忙。我说这些,不是为了夸大他们所为之事的范围,而是为了绝对清楚地表明,这件事存在真实的、物质性的维度,即使有些人想把它描述成一场纯粹抽象的仪式纯洁性测试。
你可能会对“道德上令人反感的软件系统”这个说法感到不适,但Bruno Dias(那篇博文的作者)并没有说错:“使用LLM就是自愿参与一个有害的政治项目,就是使用剥削性和道德上不可接受的流程的产物。”我在《AI的鸡肉三明治问题》中写过这一点;简而言之,LLM不是存在于真空中的。他继续写道:
我不会试图论证任何和所有的LLM使用都同样糟糕,但伦理边界要么存在,要么不存在。当然,有些伦理过错我们通常不指望人们百分之百不触犯,但有些伦理过错,我们认为有理由期望人们永远不要在没有制裁的情况下突破。我认为使用一套两年前还不存在的、完全可选且获得高额补贴的SaaS产品,属于后一类。
如果你不同意,也许可以停下来想想你被宣传洗脑得有多严重,以及你在心理上向这些系统的正常化投降了多少。不使用LLM也完全可以做事,甚至是困难的事;如果说有什么,那就是“AI”政治项目的危害之一,就是那台专门让你感到愚蠢和无助的宣传机器。
而且,你知道,这正是我担心的事情。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。