返回资讯中心
外部精选
软件工程
#开发者实时流

评论文章:AI真正的风险是人们自愿让出决策控制权

来源标题:The Privatization of Free Will

评论作者Massimiliano Genta认为,AI最大的危险不是机器突然接管控制,而是人们因为觉得方便而主动交出控制权。文章指出,推荐系统会观察用户行为并调整推送内容以产生预期反应,2012年Facebook曾对689,003名用户进行情绪内容实验。

Hacker News 最新massigenta2026/11/6 · 9 天前25 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Massimiliano Genta 2026年11月5日 9 1 7 分享

我觉得我们已经变得太愿意让科技公司来决定我们生活中什么重要了。我们称之为个性化,我们称之为便利。我们赞美那些帮我们省下几分钟的产品,却从不追问:当我们花上数年时间让它们来安排我们的注意力、我们的优先级、乃至最终我们的决策时,会发生什么。

我并不认为AI最大的危险是机器突然接管控制权。真正的危险在于,我们会主动交出控制权,因为这么做感觉很有用。

塑造人类行为的生意

社交媒体确实给我们带来了实实在在的好处。但它也教会了企业一件很有价值的事:如果你能影响人们接触到什么,你就能影响他们怎么行事。

我们批评Instagram和YouTube让我们不停刷下去。但“参与度”不过是它们的广告模型所奖励的行为。推荐系统观察人们做什么,调整他们看到什么,并学习哪些调整能产生期望的反应。在规模化运作下,这是一种影响人群的机制,而不只是推荐视频。

2012年,Facebook开展了一项涉及689,003名用户的实验。通过改变信息流中正面和负面内容的出现比例,研究者观察到用户随后发布内容中的情绪语言出现了细微变化。这项研究并没有证明他们能控制信念或重大决策。但它表明,改变一个人的信息环境,可以可测量地影响其行为。让我不安的是,这类实验已经变得多么司空见惯。

最让我不安的,甚至不是算法可能说服我们选择某样东西。真正的问题发生在我们做出选择之前。

要做决定,我们首先得意识到有哪些决定可选。我们得注意到一个问题、识别出一个机会,或者了解到还存在另一种选择。只有到那时,我们才会去权衡选项。而推荐算法正越来越多地影响这第一步。

只有当你知道事件X发生了,你才可能对它感到愤怒。如果你的信息流不断给你看X,却略过Y——而Y可能对你的生活重要得多——你并不是在X和Y之间选择了X。Y根本没有进入你的思考。你可以觉得自己很独立,而你对“什么值得关注”的理解早已被替你过滤好了。

就拿Andrew Tate来说。疫情之后,一个卖所谓“Hustlers University”、承诺教人如何致富的家伙,不知怎么就成了互联网上最有影响力的人之一。我记得看过他的一个视频,有那么可怕的几分钟,我心想:“等等,这个白痴是不是还真有点道理?”幸好我的大脑后来重新上线了。但对很多人来说,一个视频变成了几百个,突然间,一个贩卖暴富幻想的家伙成了人生导师,而厌女则被重新包装成了自我提升。

荒诞的地方在于:就连受不了他的人也被迫要应付他。讨厌他的内容?去评论、转发批判他、争论他有多荒唐(就像我现在这样),你可能反而帮它传播得更远。算法不需要你欣赏某个人。有时候,你的愤怒和别人的崇拜一样有价值。

现在想象一下,有个人整天坐在你房间里,看着你做每一件事,了解什么让你开心、愤怒或不安。然后想象这个人开始重新安排你周围的一切,决定你看到什么、看不到什么,潜移默化地影响你的行为。你大概会报警。但当一家软件公司通过你的手机做类似的事时,我们称之为个性化。我们甚至可能还会付费购买高级版。

而这还只是推荐算法主要影响我们所消费的信息。AI助手可能走得更远,引导我们买什么、怎么学习、在哪里工作、如何投资、和谁交往。

想象一下,你让AI帮你找份工作。它给出了三个诱人的选项。如果它的提供商和那些雇主有财务关系呢?这些推荐也许有用,但谁来决定了哪些机会永远不会出现?

一个系统不需要撒谎就能影响你。它只需要决定你“不该看到”什么。

AI行业没完没了地谈论“对齐”。我一直回到一个从一开始就该是核心的问题:和谁对齐?

一个AI可以完美执行它的指令,却仍然违背你的利益。如果一家公司的收入依赖于把用户引向某些产品,技术上的表现并不能解决这个冲突。我们需要知道它服务于谁的目标、谁控制这些目标,以及我们是否有替代选择。

我不认同“企业主导”和“政府控制”是两种彼此独立的结果这种说法。它们可以同时发生。企业影响监管;监管可以保护现有玩家;政府变得依赖少数几家供应商;而这些供应商获得政治影响力。塑造公众注意力的同一套系统,也可能影响政治优先级。

AI和机器人技术可能让这种失衡更严重。工人历来有筹码,因为他们的劳动被需要。如果自动化削弱了这种筹码,而所有权依然集中,人们还有什么力量去挑战那些控制生产的机构?

我也不把市场和资本主义画等号。市场允许交换和协调。资本主义还关乎谁拥有生产资料、谁获得回报。我担心的是,那些可能创造经济价值、并影响依赖它们的人之决策的系统,被少数人集中拥有。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →