研究:人们不满LLM输出并非因理解力不足
来源标题:We Dislike LLM Output, Not Because of Comprehension
一项分析指出,公众对LLM输出的不满更多源于问责与可审计性的缺失,而非理解能力问题。作者类比药理学中部分机制可解释但整体未完全理解的药物,主张机械可解释性(MechInterp)应让LLM达到类似药理学的中庸状态,在严格监管与责任归属下实现务实可用。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
(因而又落回PLA),而是一种务实的可理解性:公众有能力把握反事实依赖关系、诊断错误并进行干预[8]。 在这种情况下,与传统工具相比,人类面临一种规范性的失能:我们既不能像对待同侪那样要求系统承担责任,也不能像对待工具那样对其加以审计和修订,而这正是问责所要求的程度[9]。此外,不妨考虑药理学——有人可能会说,医学长期以来一直依赖经验上有效的药物。药理学实际上面临着与LLM使用相同的困境。观察药理学的务实权衡: 许多药物虽然尚未被端到端地完全理解,但仍被做成部分机制上可分解的(例如,AstraZeneca转向5R Framework[10]),在此基础之上,严格的临床监管和机构责任将风险(skin in the game)转移到了制药公司和开处方的医生身上。既然我们无法赋予权重真正的存在性利害(或者我们能吗?如果我们真的能,那反而更麻烦), 我真心希望MechInterp能将LLM带到与药理学大致相似的位置。那将是一个不错的务实中间地带。参考文献 J. R. Searle,“Minds, brains, and programs,”Behav. Brain Sci.,第3卷,第3期,第417–424页,1980年9月,doi: 10.1017/S0140525X00005756。L. Wittgenstein,Philosophical Investigations,G. E. M. Anscombe译。Oxford, UK: Basil Blackwell,1953。S. Candlish和G. Wrisley,“Private language,”载于The Stanford Encyclopedia of Philosophy,2019年秋季版,E. N. Zalta编。Stanford, CA, USA: Metaphysics Research Lab, Stanford Univ.,2019。访问日期:2026年11月9日。[在线]。可获取:https://plato.stanford.edu/archives/fall2019/entries/private-language/ W. Sellars,“Empiricism and the philosophy of mind,”载于Minnesota Studies in the Philosophy of Science,第1卷,H. Feigl和M. Scriven编。Minneapolis, MN, USA: Univ. Minnesota Press,1956,第253–329页。R. B. Brandom,Making It Explicit: Reasoning, Representing, and Discursive Commitment。Cambridge, MA, USA: Harvard Univ. Press,1994。J. Haugeland,Having Thought: Essays in the Metaphysics of Mind。Cambridge, MA, USA: Harvard Univ. Press,1998。P. Humphreys,“The philosophical novelty of computer simulation methods,”Synthese,第169卷,第3期,第615–626页,2009年8月,doi: 10.1007/s11229-008-9435-2。H. W. de Regt,Understanding Scientific Understanding。Oxford, UK: Oxford Univ. Press,2017。A. Matthias,“The responsibility gap: Ascribing responsibility for the actions of learning automata,”Ethics Inf. Technol.,第6卷,第3期,第175–183页,2004年9月,doi: 10.1007/s10676-004-3422-1。P. Morgan等,“Impact of a five-dimensional framework on R&D productivity at AstraZeneca,”Nat. Rev. Drug Discov.,第17卷,第3期,第167–181页,2018年3月,doi: 10.1038/nrd.2017.244。<script type=
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。