
研究:要求核查AI输出会加重使用者负担
来源标题:Moving Goalposts
有观点指出,「用AI辅助但必须核查所有回答」的通行说法并不符合实际。核查他人产出尤其是捕捉LLM随机错误需要高度专注和大量时间,反而增加使用者负担。该说法也被批评回避了劳工权益、能耗与训练数据等更根本的问题。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
很长一段时间以来,关于使用“AI”的负责任说法是:你可以把AI当作辅助工具,但你必须逐一核查所有回答是否正确。这显然是在试图回应“AI”最紧迫的问题之一:它通过引入随机错误来拉低质量。如果人们核查了所有输出,那理所当然不会有人对使用“AI”有意见了吧?
好吧,人们当然有意见:劳工权利的剥夺、能源和水资源使用带来的生态影响以及电子垃圾的产生、对所有人工作成果的大规模非法积累,以及对人类认知和福祉的负面影响——这些理应足以让几乎所有人都远离这些系统,但伦理并不时髦。
但如果我们停留在“目的/产出/生产力为手段正名”的资本主义逻辑里,这乍看之下似乎还挺合理?可一直让我不安的是,这跟我的实际经验完全对不上:阅读、编辑、验证别人的工作要花大量时间,尤其是当你需要足够专注才能抓出LLM引入的那类诡异错误时。我从没搞懂节省的时间到底该从哪来。不过我一直有个怀疑。
Ketan Joshi做了一张信息图,把我认为正在发生的事画了出来:
但我最近发现,“AI”拥护者谈论其使用方式的口径变了。因为旧的(大概是虚假的)说法至少还声称关心质量、想让质量别掉下去,而我们现在连这个承诺都听不到了。
我在自己的圈子里不断看到、也从别人那里越来越多地听到这样的说法:“我们不需要检查,出了问题AI会修好”或者“我们就用AI来检查结果”。两个随机错误也许能凑出一个正确——这似乎就是他们的希望、梦想、 thoughts and prayers。
这是“AI”辩护中一次大规模的目标转移。总的来说这么做很奇怪,因为为什么要为一种不道德的东西辩护呢——但它至少曾试图声称自己不会通过制造更烂的产物来让世界变糟。可现在我们是全速冲向垃圾世界。如果快时尚,但适用于一切,会怎样?
我认为这向我们说明了几件事。第一,它表明“AI”(包括那些以“负责任”方式搭建的)无法同时提供两样东西:生产力提升和稳定的质量。这是一种变相认罪。
第二,它也确实说明我们总体上正多么深地倾向资本主义加速主义:只要某样东西更快、能迅速满足我们的某种冲动,它就能被包装成正面的事物,而不会被轰下台或扇耳光。
第三,它表明“AI”阵营永远不会对任何事作出承诺,那个阵营的所有主张和承诺都是空话。他们一直在逃离社会,总是声称要提供某种东西,却从不兑现。因为一切变化都太大了……创新……旧范式…… bla bla bla。
我认为重要的是揭示这一转变:所有这些系统当初都是在确保质量和责任的承诺下获得资助、开发和部署的,而如今既然很明显那永远行不通,我们正缓慢但确定地在叙事上被准备好去接受生活中越来越多的垃圾。
许多针对“AI”的批评(剥削、无视外部性等等)也可以针对大多数资本主义生产形式。“AI”在这方面并不特殊。但伴随每个“AI”系统的那条奇怪的星号——把全部责任推给用户,而用户又被越来越大的压力逼着去提供“AI”无法交付的效率提升——必须被置于主流话语批评的中心。而遗憾的是,这一话语往往也不关心伦理、环境影响或人的尊严。
接受垃圾意味着接受客观上更差的数字物品——而它们是以对环境、对我们的社会、对我们的认知和心理健康难以置信的代价生产出来的。我认为这正是必须划下的首批底线之一。
加州刚刚起诉OpenAI,原因是他们使用随机系统攻击其他组织的网站和平台(非常重要的一点是,不要沿用“他们的AI在攻击”这种框架,因为那100%不是正在发生的事)。这是又一步,削弱了“AI”很特殊、需要特殊规则、不必遵守既定规范和法律的框架。比如像“你作为服务提供者必须可靠地提供你承诺的服务”这样的规范。
如果你把这种对服务的常识性理解应用到基于“AI”的服务上,它们没有一个能存活。所以让我们开始吧。
本作品采用知识共享署名-相同方式共享4.0国际许可协议进行许可。 您的电子邮件地址不会被公开。必填字段已标记 * 通过电子邮件通知我后续评论。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。