返回资讯中心
外部精选
软件工程
#开发者实时流

AI的重要性被用投入资金来衡量,作者质疑这一逻辑

来源标题:Goodhart's Law, but We Spent All Our Money

作者指出,人们用投入资金的规模来证明AI重要,而非说明AI本身的价值。文中以篮球、足球、电子游戏等产业作类比:这些行业收入高达数十亿美元,但赚钱多并不等于解释了它们为何重要。作者认为这种以金钱为衡量标准的论证方式存在问题。

Hacker News 最新Brajeshwar2026/11/4 · 13 天前12 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

AI很重要,因为我们在它上面花了太多钱。 6小时前 ~ 5分钟阅读 请我喝杯 咖啡 下面这招能让任何体育迷瞬间炸毛。篮球,不过是一群大男人拍着球往篮筐里扔。橄榄球,是一群大男人在草地上跑来跑去,想把球踢进网里——对,就是那种足球。至于棒球……哦,天哪,棒球。 这些话我用过很多次,既能惹人生气,也能为我毫无运动成就这件事开脱。但我得到的反驳永远是:橄榄球是一个价值数十亿美元的产业,或者某个球员赚的钱我这辈子都见不到。如果我回击说电子游戏不过是小孩玩的东西——我当然会这么说——得到的回应也差不多:电子游戏赚的钱比所有这些运动加起来还多。 这些都是事实。但没人告诉我篮球为什么重要。没人告诉我这项运动有多精彩,人们如何因它而联结,它如何把社区凝聚在一起,或者保持运动本身就是健康的。不管是篮球、橄榄球、电子游戏,还是(上帝原谅我)棒球,最终都归结为同一把尺子:这项活动能赚多少钱。 如果一件事的重要性只用它能赚多少钱来衡量,那么我们追求的就将是赚更多的钱,而非这件事本身。——某个地方的AI 古德哈特定律指出:当一个衡量指标变成目标时,它就不再是一个好的衡量指标。登场吧,人工智能。 自从ChatGPT首次发布以来,这一波生成式AI据说已经创造了数十亿美元的收入。但在此过程中,为了让这一切成为可能,花掉的钱要多得多。钱被花在让AI看起来很好上。AI被认为“好”,是因为人们预期它能赚很多钱。由于AI实际上还没把这些钱赚回来,它只能依靠虚高的估值来定义自己的货币价值。 这就像开一家披萨店,目标是做出一百万个披萨,但你其实没有烤披萨的原料。你不去买面粉和番茄,而是用AI生成美味披萨的高分辨率照片,印在空盒子上——那上面本该放着未来的披萨。你卖的是盒子的热度,承诺只要资金到位,真正的披萨就会送到。 有一个很简单的论点,我甚至想说它有点天真:如果AI要抢走我们所有的工作,那谁来为它买单? 如果工人被取代,他们就没有收入。没有收入,就没有购买力。那个既不上班、没有薪水,却能无缝地为 enterprise AI 工具每月付费的神秘客户到底是谁? 目前,AI的主要消费者并不是购买成品的公众。相反,是企业彼此之间在企业循环经济中来回倒卖AI,资金来自风险投资——而风投期待的是一个没人完全搞清楚如何大规模变现的产品能带来无限回报。 这可能只是一个样本量 N = {“我过去四年的同事们”} 的轶事,但在那短短的时间里,我们先后迎来了企业AI的四骑士。 第一骑士告诉我们绝对不要碰AI,警告有知识产权盗窃和安全泄露的风险。第二骑士告诉我们“在需要的地方”谨慎使用。第三骑士把AI变成了一场游戏,追踪指标看谁用得最多(赢家得到一部免费iPhone)。第四骑士最近驾到,要求我们停止使用Fable,并且要获得管理层的书面批准才能超出被削减的token预算。 每一位骑士都是花钱请来的顾问,负责提供培训。短短几年间,企业态度从偏执转向被迫痴迷,最终变成预算恐慌。员工从被催促着把一切“Tokenmaxx”,变成了被训斥token是要花真金白银的。 AI很重要,因为我们在它上面花了太多钱。 当一个行业用投入的美元数额而非实际获得的效用衡量成功时,我们就开始生活在幻想里了。我们花天文数字的钱去构建AI,是因为我们相信它有价值。现在,我们必须证明它有价值,仅仅是因为我们花了那么多钱。 如果我们继续只用市值和投机炒作、而非实用性来衡量技术的价值,那么当人们不再购买空披萨盒时,我们不该感到惊讶。我得说,是印刷精美的空披萨盒。眼下,我们快没钱买原料去做真正的披萨了。 喜欢这篇文章吗? 可以请我喝杯咖啡。 在这里分享你的高见。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →