
报道探讨LLM构建终端用户软件的潜力与风险
来源标题:The Promises and Perils of LLMs in Building End User Software
LLM编码代理过去一年已彻底改变软件开发行业,但采用方式差异明显:基础设施开发者因系统关键性起初更谨慎,随着工具改进已获得显著价值。Rust语言因严格的借用检查器和反馈丰富的编译器,能推动LLM写出正确且地道的代码,成为典型例证。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
不可否认,过去一年里基于大语言模型的编程智能体带来了革命性变化。作为技术从业者,我们一直在努力应对它们对我们的技艺和所交付产品的影响,尽管以当前的进展速度来看,这场角力远未结束。然而显而易见的是,这些工具的存在已经永久地改变了我们的职业——我们用它们最终产出的软件也同样被改变。
我们向新工作模式的转变很快,但并非没有摩擦,采用方式也五花八门。我们中从事基础设施工作的人,对增加 LLM 的使用普遍更为谨慎,因为这一领域更具“任务关键”属性,且开发工具本身也更为复杂。但随着智能体编程的框架和模型不断改进,这类基础设施开发者已经看到了惊人的价值积累,而这恰恰得益于其生态系统中存在的严谨性和健壮性。
一个绝佳的例子是 Rust 编程语言:严厉的借用检查器和反馈丰富的编译器能够驱动 LLM 写出正确、地道的代码。这一点如此非凡,以至于连从未写过一行 Rust 的人现在也严重依赖 LLM 来编写 Rust 程序。
而在更高层的软件和终端用户应用领域,情况却指向一个截然不同的故事。由于开发门槛更低、商业机会不可估量,这个世界在很大程度上将性能和计算细节的鉴赏置于一旁,优先考虑应用的交付。于是,我们有了一个迅速采用 LLM 编写软件的社区,许多人宣称编程已死,它不过是达到目的的手段。
的确,LLM 在应用和 Web 开发领域蓬勃发展。AI 实验室展示的许多演示都包含 Web 服务器或令人瞠目的用户界面(至少乍看之下如此)。深度学习本身一直是一个由 Python 等高层语言实现所主导的领域,这反映了 AI 对计算机编程的理解。
在很大程度上,LLM 极大地造福了应用开发者的生活。许多终端用户体验不过是对接外部 API 的 CRUD 操作的聚合。因此从逻辑上讲,我们创建的程序能够很好地受益于 AI——由 AI 来识别并基于我们代码库中的模式、工程标准和最佳实践进行工作。
然而,应用开发社区和公司对智能体开发的狂热拥抱并非没有给开发者和他们的软件带来代价。不负责任地使用 LLM 导致许多服务发布速度极快,却伴随着巨大的臃肿:高内存消耗、冗余的网络往返和糟糕的用户体验,都是写得糟糕的应用的症状。技术转向比比皆是;当 LLM 那永远讨喜的分析让重写变得又快又便宜时,工作中便嵌入了半生不熟的想法,最终产出平庸的产品。
对竞争对手更快发布、被行业其他人甩在身后的恐惧——在传统工程护城河已经削弱的情况下,这是合理的担忧——助长了这股火焰,同时让我们几乎没有机会反思自己的价值观和行业范围内的最佳实践。
我很少看到公司花时间和精力去完善它们在 LLM 使用方面的思维方式,Oxide Computer Company 是一个值得注意的例外。我欣赏 Oxide 作为先驱,公开设定并分享其对 LLM 的立场;显然 Bryan Cantrill 和他的公司对 AI 如何影响其工作的各个方面进行了长期深入的思考,并且对于未来应如何继续使用 AI 持有富有成效的立场。
但 Oxide 专注于基础设施——私有云中的真实计算机。应用开发领域则因缺乏严谨性和对 LLM 作为工具的思考而深受其害,急需指导方针。为了与 AI 建立长久的关系,我们需要理解终端用户软件中的负面后果,并将这些与我们珍视的价值观联系起来;作为个人、作为公司、作为行业。
同时运行多个编程智能体所带来的心智负担成本对应用开发者来说并不独特或新颖,事实上,这是我们必须为 LLM 带来的某些最大好处所付出的代价!
但在构建终端用户软件时,这种成本被放大到令人头痛的程度;同时推进许多独立的功能和计划实在太容易了,尤其是当每个任务的机会成本和风险看起来都如此之低时。我认为这又回到了对速度不够快的恐惧——担心竞争对手先你发布,把你甩在尘埃里。此外,已经采用快速 AI 开发节奏的组织,现在对某些任务应该多快完成有了隐含的预期:在 LLM 之前的时代,围绕重大架构更新或新功能的认真规划可能需要数周(如果你的公司名字以“Micro”开头、以“soft”结尾,那可能是数月)。而现在的要求是,这样的规划只应花费之前时间的一小部分,而实现还要更快。
于是为了速度,我们继续把越来越多的工作卸载给 AI,发现自己手头的时间越来越多。“不可接受!”我们对自己喊道。“这本该是一座软件工厂!”然后我们继续把对本职工作的安静思考时间,换成再启动一个提示词、把一项全新任务干到完成。
请原谅我的戏谑,但今天任何开发者都会立刻对这种场景感同身受——我们都经历过!如果我能做更多,那为什么不多做呢?不利用这样的局面才是不负责任的。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。