
评论文章探讨AI疲劳:是AI本身还是过度关注让人疲惫
来源标题:Are We All Going Bots**T Crazy?
一篇评论文章指出,各行业人群普遍感受到“AI疲劳”,但作者怀疑真正让人疲惫的并非AI技术本身,而是围绕AI的持续关注和讨论。作者从开发者团队管理、软件开发和孩子职业前景等不同角度描述了这种疲惫感,认为不同生活场景中的AI体验虽各异,却产生了相似的焦虑与倦怠。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
文章标题:我们是不是都在被机器人逼疯?
关于AI、人的自主性,以及那些值得守护的东西。
不管我转向哪里,总有人在谈论AI疲劳。
我的队友、我的职业人脉、我的朋友;甚至我的孩子们,似乎都被他们如今每天必须处理的海量内容和信息环境弄得疲惫不堪。我也感同身受。我讨厌的是,现在快速搜索一下信息,感觉就像在进行一场半人半机器的对话,充斥着各种观点和谄媚的帮忙提议,而这一切我根本没要求过。
起初,AI疲劳引起了我的共鸣。AI在我生活的方方面面都在索取注意力,我很难有实质性地跟上。我正在带领一个开发者团队度过一段职业上的不确定期,同时构建以人际连接为基石的软件,还要抚养即将进入职场的孩子——在那个职场里,AI无处不在,但这对他们的职业生涯意味着什么,仍然不清楚。
这些都是截然不同的AI体验,但它们似乎都在产生类似的感受:兴奋中夹杂着不确定、沮丧和疲惫。
但我开始怀疑,真正让我疲惫的,到底是不是AI那部分。我猜,我们在各自不同的生活中以相似方式体验到的这些紧张感,其实是人的问题,源于人的决定。
AI改变了那些熟悉的人类问题发生的条件,但它显然没有发明这些问题。我们只是在加速胡扯。
人类制造胡扯已经几十年了,但过去我们是以人类的速度在制造。不加区分的推销话术、注水的学生论文、没做准备却在会上蒙混过关的同事。胡扯并不新鲜;改变的是我们制造它的速度、规模和可信度。
在《论胡扯》中,Harry Frankfurt将胡扯定义为对真相的漠不关心;不一定是撒谎,但也不是在试图传达事实。作为公共利益的敌人,它比蓄意的谎言危险得多;至少撒谎的人还在乎真相。
AI让制造令人信服的人类努力证据变得极其廉价。我们都在以某种形式经历着它:看起来知识渊博的文字、看起来理解系统的代码,或者看起来充满关怀和同理心的沟通。它表现为一种罐装式的完美,难以进行有意义的编辑或辩驳,因为它缺乏审慎推理。
AI胡扯已经如此普遍,以至于催生了“botshit”这个词,这个术语表面上像是在怪技术,但实际上指向的是更上游的问题。在《ChatGPT是胡扯》中,Michael Hicks提醒我们,LLM的目的只是复现人类的言语或写作,所以在我看来,它们所做的正是它们被设计来做的事。我们是这个等式的一部分。胡扯输入,botshit输出。
AI的普及引发了一连串事件。我们得到了闪亮的新玩具,让大脑如虎添翼,但生产率的提升伴随着隐性成本。持续检测和验证的认知负担开始消磨我们,先是个体,然后是集体。我们开始质疑自己的判断,并要求他人给出交代。我们经历新事物的速度,超出了理性大脑能跟上的节奏。
它开始占用我们需要用于那些唯有人类才能做的事情的精力,比如原创思考、独立判断和生活阅历带来的视角。我们开始放弃思考,进而放弃自主性。随之而来的是职业和公共话语中信任的缓慢侵蚀。
社区建设者们正深切感受到信任的侵蚀。在Discourse,我们的根本目标是把有深度的对话带回互联网。当讨论的参与者并非都能思考时,这很棘手。当他们如此擅长表现得像是在思考,以至于我们在处理信息之前不得不浪费脑力去评估时,就更棘手了。一个自信、精心打磨的回复,对于建立专业声誉大有帮助,而这种声誉可能名副其实,也可能名不副实。当这些回复开始盖过那些不那么 polished 的作者更准确的贡献时,系统会进一步崩溃。旧的信号全都失效了。
有些活动通过过程产生价值,而不仅仅是结果。William Zinsser用那句名言概括了这个想法:写作是在纸上思考。当我们不再选择自己的词语,把思考权让渡给一个系统时,写作的重要部分就在循环中丢失了。当人类写作时,理解的机会被内置于过程之中。随着经验积累,我们开始建立自己的声音,段落随着思想的展开自然衔接。所以,以快于我们思考的速度生产内容,必然要付出代价。
我最近做了肘部重建手术,有几周无法使用惯用手。我没有依赖技术来帮忙,而是学会了用左手写字。远谈不上熟练,但我固执地坚持了下来,尽管我说不清为什么对此感受如此强烈。现在我意识到,写作对我的意义独立于它的效率。写作是我组织和处理思想的方式。语音转文字要求我在开口之前就有一个完全成形的想法。
正如写作帮助我们发现自己所想,编程帮助我们理解系统为何如此行为。学习通过犯错、修改和实验发生。如果理解是通过写代码或构建产品的过程建立起来的,那么当构建过程改变时,我们如何保留它?
研究表明,我们如何使用AI追求效率,会影响我们学习和理解的程度。如果工程师不批判性地评估智能体的输出,就会遭受理解债务。团队会积累认知债务,随着他们对系统的共同理解下降到无法再自信地预测变更影响的程度。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。