
文章回应Dimitris Kyrkos观点:技术选择应遵循比例原则
来源标题:The Cognitive Architecture of Choice: On the Principle of Proportionality
一篇论述技术选择中比例原则的文章以对话形式回应Dimitris Kyrkos的《“AI优先”的谬误:从摩擦入手,而非技术》。文章指出,通用技术往往先被当作万能答案,经历大量代价高昂的失败后,组织才学会先问任务复杂度与工具复杂度是否匹配。文中以19至20世纪之交工业电气化、20世纪七八十年代企业计算机化、2010年代界面全面数字化为例,说明这一模式反复出现。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
这篇文章是与Dimitris Kyrkos的文章《“AI优先”的谬误:从摩擦出发,而非从技术出发》的对话。
工程思想史的结构呈现出这样一种规律:每一项通用技术都会经历一个可预测的循环——起初它被视为万能答案,直到多年之后,当足够多代价高昂的失败积累起来,组织才学会提出那个前置问题:任务的复杂度与工具的复杂度是否匹配。十九、二十世纪之交的工业电气化、二十世纪七八十年代企业向计算机系统的迁移、2010年代界面的全面数字化——所有这些变革都重复了同一个模式:技术首先作为自身价值被引入,之后才逐渐被重新校准到所要解决问题的逻辑之上。经济学家Paul David在分析所谓“生产率悖论”时指出,从一项技术的出现到它的生产性使用之间,横亘着一段漫长的时期,在此期间组织按照旧有模板使用新工具,由此得到的成本多于收益(David, 1990)。本文的出发点是这样一种判断:当前这波人工智能系统的采用恰恰处于这一早期阶段,其最实质的问题不在模型本身的质量层面,而在于工程决策与组织决策的先后顺序层面——在于可称之为“技术合比例性原则”的层面。
让技术先于问题界定,这种采用策略的表述初看只是一种无害的修辞倒置,却带有完全可操作的后果,因为它决定了决策的先后顺序。当初始问题变成“这项技术能用在哪里”,组织便开始从解决方案出发倒推问题,而在这种配置之下,“这里不需要这项技术”这一回答已经不再有任何正当的出口——这一指令本身就把该答案预先排除在可接受决策的空间之外。工程社区中广泛讨论的一个场景很能说明问题:一套建立在大型语言模型之上的完整流水线——配有向量数据库、embedding基础设施和微调循环——被部署用于支持工单分类,准确率约为百分之九十一;而几条关键规则加正则表达式,仅用一天的工作量、且没有任何运营成本,就能以约百分之九十五的准确率解决同一任务。这个例子的意义不在于具体数字,而在于失败早在开发开始之前就已发生:它被写进了问题的结构本身,而那个结构禁止了任何按工具与任务的合比例性进行比较的做法。
这种倒置的代价之上,还应加上一笔确定性系统无需承担的特定运营税:概率模型容易产生幻觉,在输入数据分布发生变化时会发生漂移,需要持续的质量监控,并且按调用次数计费——因此,在任务本可通过确定性手段解决的地方部署它们,等于自愿接受持续不断的成本,以换取毫无额外的价值。尤其值得关注的是“让系统跑起来”与“让它持续跑下去”之间的成本不对称:一条在三月份能产出正确结果的prompt,到九月份可能表现不同,仅仅因为数据分布变了;而这类开销几乎从不会进入初始估算,因为那些估算依据的是原型的逻辑,而非生命周期的逻辑。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。