
研究者提出去除AI拟人化表述的三步方法
来源标题:How to talk about "AI" without adding to the anthropomorphization
Tech Policy Press刊文提出,应避免用拟人化语言讨论AI,以免混淆技术实际功能。研究者已完成前两步:归类拟人化表述类型,并据此整理替代说法。替代表述以功能描述为核心,将能动性归于人而非系统,避免认知类隐喻。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
在我们为Tech Policy Press撰写的评论文章(《我们需要谈谈如何谈论“AI”》)中,我们论证了反对拟人化语言的理由——这种语言使得人们难以清晰讨论所谓“AI”技术的实际功能,以及何时、是否应该使用它们。但这些表达方式如今已根深蒂固,要养成新的对话和写作习惯需要付出努力。这项工作至少涉及三个步骤:
在我们的研究(在评论文章中有所概述)中,我们一直在推进前两个步骤:对拟人化语言的类型进行分类,并利用这些分类来组织可能的替代方案。
去拟人化语言以功能(人们构建和/或使用它们来做什么)来描述计算机系统,将能动性归于使用系统的人而非系统本身,并避免使用关于认知的夸大隐喻。
我们的目标是找到尽可能自解释的替代词,这样你就可以直接使用它们,而不必额外解释。(当然,如果有人问“你为什么这么叫它?”,那也是一个很好的开场。)
其中一些改写可能显得有点笨拙,而且最终可能比拟人化的简写更长。这意味着使用它们需要多一点专注,但这也不一定是坏事。我们应该停下来思考我们正在使用、甚至正在讨论的技术,以及它实际在做什么。
我们将逐一介绍我们在Inie et al 2026中识别出的拟人化语言类别,并为每个类别给出非拟人化版本的示例。
这个类别非常常见,因为它就藏在营销术语artificial intelligence本身之中。这类语言将思考定位在算法中。相反,我们建议将软件描述为执行计算或其他算法操作,并将思考定位于使用系统的人。(在某些情况下,人们在使用它们时显然没有在思考,但他们仍然是应该思考的一方。)
示例: artificial intelligence → probabilistic automation hybrid intelligence → augmented human intelligence image recognition → image labeling speech recognition → automatic transcription the model shows bias → the model reflects bias model mistakes → model errors chatbots are good at … → chatbots are good for … hallucination → undesirable output goal → success condition
总的来说,我们建议在指称技术时避免使用artificial intelligence或AI。我们仍然会谈论AI产业,因为那是一个事物的名称,也会把AI作为一种意识形态来谈论。但当所指对象是某个具体的技术系统时,始终最好直接命名那个系统本身。也许它是某个特定产品。也许它是一个具有特定功能的系统,比如自动转录。无论哪种方式,都值得找到不会同时带有拟人化色彩的名称。如果你需要一个更通用的术语,我们上面推荐的probabilistic automation适用于许多(但不是所有)以“AI”名义销售的东西。
我们也将hallucination归入这个类别,因为它的原意是指感知到不存在的事物,但软件系统(尤其是对话模拟器)当然不会感知任何东西。我们提出的一对一替换短语是undesirable outputs,但同样重要的是要知道,所有LLM输出都是概率性生成的合成文本;在系统层面,期望的输出和不期望的输出之间没有本质区别,区别只存在于解读它们的人那里。
这类措辞暗示软件系统拥有情感生活。我们在这里没有特别推荐的改写,因为除了重申显而易见的事实——它们没有任何情感状态——之外,没有准确的方式来谈论计算机的情感状态。这个类别也许最微妙(因此对语言学家来说也最有趣)的地方在于,这些对情感体验的暗示会以令人惊讶的方式潜入:如果你说ChatGPT难以完成某件事,或者说你不得不哄骗它输出某些内容,你就是在把它描述为仿佛拥有情感状态。
在这个类别中,我们发现一些词语将自动化系统——通常是合成文本挤出机——置于交际情境中与人平等的地位。如果我们向Claude请求某事,我们就是在把Claude描述为对话伙伴。不要用ask、say、inform、discuss这类动词,而应使用适合计算机的动词,如input和output。另一种策略是突出模拟这一事实。
示例: prompt → text input answer → output chatbot / conversational agent → conversation simulator
将能动性定位于机器的措辞往往起到掩盖人的利益和目标的作用。我们建议修改为将能动性定位于人,或选择能动性较弱的动词。
示例: ChatGPT assisted students → the students used ChatGPT revealing the solution → displaying the solution AI agent → probabilistic, unverified software manipulator
这个类别中不容忽视的明显问题就是流行词AI agent(及其变体,如agentic AI systems)。这个词指的是将LLM(概率性合成文本挤出机)和/或其他组件与其他能够影响世界的系统连接起来的软件系统,即以前设计用于让人做诸如安排预约、预订航班或进行其他购买等事情的系统。我们目前对这个词的建议是probabilistic, unverified software manipulator,它的优点是能给出一个足够难听的缩写(“不了谢谢,我不想用你的PUSMic系统。”)但是,我们绝对欢迎其他想法!把它们发给我们,如果有任何特别贴切的,我们会将其添加到这个列表中。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。