
文章探讨数字消费中信任经济的崩塌
来源标题:The Economics of Distrust: How the Market of Authenticity Consumed Itself
这篇文章以Tim Green的文章《The Counterfeit Web》为引,分析了数字环境中消费者选择所依赖的陌生人评价体系如何失去根基。作者指出,声誉产业建立在“大众声音彼此独立”这一从未被明说的假设上,而这一假设在生成式模型出现之前就已瓦解,机器生成文本只是将早已产业化的问题自动化了。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
这篇文章的诞生要归功于Tim Green那篇犀利透彻的文章《The Counterfeit Web》。
在数字环境中,整个消费者选择架构多年来都建立在一种约定之上:陌生人如实向彼此报告自己的体验,而这些报告的总和催生了某种超越个人意见的东西——一个信号。整个声誉产业就生长在这一约定之上:评分、星级、评论聚合器、被变成商品的陌生人口头推荐。它的全部构造都依赖一个从未被明确说出、但其余一切都仰赖其上的假设:群体的声音是独立的。一旦这个假设崩塌——而它早在成为公众警觉之事以前就已崩塌——人们便发现,声誉大厦之下除了“集体不问文本出处”这一习惯之外,别无根基。
一种普遍的误解是,真实性危机始于生成式模型的出现。事实上,机器生成的文本只是把一件早已被组织成产业的事情自动化了。早在一张神经网络学会模仿顾客的热情之前,就已存在一个稳定的市场,顾客的热情在那里被批发和零售:“评论撰写人”的招聘启事公开发布,数十上百条好评(连同照片)打包的价目表按寻常的竞争法则成形,为他人的产品写溢美之词成了一项配有薪水、工作排期和企业伦理的正式岗位。没有人遮掩,因为没有人需要遮掩。一个社会若与受雇的虚假共存了几十年、视其为一种营销,就不可能真诚地把真实性奉为神圣价值;它把真实性视为理性市场参与者按需获取的一个选项。
更能说明问题的是这一经济的另一面。如果一条好评的价格是购买,那么一条差评的价格就是惩罚。历史上确有一段时期,商业机构在与客户的合同中写入条款,对发布不中听评论者处以罚金,并毫不犹豫地把这些款项直接划走不满客人的银行卡——不经法庭,单方面,自行裁量,把任意指定的罚款称为“精神损害补偿”。耐人寻味的是,这种做法并未招致即时一致的谴责:它被视为一种过火、一种越界、猎奇新闻的素材,而不是系统性病症的症状。关于一间破败陋屋的真相,价格高于在那陋屋里住上一晚——这一本身就骇人的事实,却落在了习以为常的秩序范围之内,因为它是零星的、手工的、人的。
因此,生成式模型到来时攫住社会的警觉有着相当具体的性质:激起愤怒的不是伪造这一事实,而是伪造的成本。旧体系依靠的不是诚实,而是摩擦——依靠的是说谎略有成本。你得找人去说谎,给他提供照片,编造一段来历,把控文风变化,把发布分散到不同时间。每一个虚假声音都要花钱耗时,而这种经济上的低效发挥了一种非自愿监管者的功能:虚假的基线水平之所以尚可忍受,恰恰因为造假无法免费规模化。机器消除了摩擦。一条像样的评论的成本降到与零无异,生产时间降到一秒,而那个智慧被当作声誉市场基石的“群体”,不再是众多独立的人,而变成了同一个算法的众多副本。
这里必须区分公共讨论一直混为一谈的两种不同现象。第一种是噪声:不可靠内容体量的增长。第二种是信号本身的替代:从一段文字推断其作者真实体验的任何可能性被摧毁。噪声可以被过滤;而信号的替代无从过滤,因为过滤器所依赖的恰恰是那些本身正在被伪造的文本特征。机器文本自动检测器的准确率不足以支撑任何实际应用,而且它的错误是不对称的:最常被怀疑的,是那些用非母语写作的真人作者——也就是说,因误判而受罚的主要是本就处境脆弱的人。对标注寄予的希望同样未能兑现:实验表明,“可能由机器生成”这类含糊标记在读者心中引发的不是警觉,而是回避——不适感通过关掉标签页而非批判性分析来化解。于是,一段被标注的伪造文本并不会成为有用的信号;它成了令人本能转身避开的焦虑来源。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。