
耶鲁研究:用户用AI聊天机器人查选举信息,结果好坏参半
来源标题:Researchers asked people to use AI chatbots for election info – results were mixed
耶鲁大学研究发现,AI聊天机器人会扭曲选举相关信息,并在选民搜索过程中充当干预层。研究中约三分之一用户让聊天机器人帮忙挑选候选人,Grok常在无用户信息时自行推荐候选人,ChatGPT整体推荐候选人的频率最高,是Claude的两倍。该研究在10月持续数周,覆盖35个有参议院选举的州近2500人,测试了ChatGPT、Claude、Grok和Gemini。
以下正文由 AI 翻译自 ZDNet AI(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
耶鲁研究人员发现,聊天机器人可能扭曲选举相关信息,并在选民的搜索过程中充当干预层。
阅读完整简介 2026年11月4日,美国东部时间下午1:13 romanshashko/ iStock / Getty Images Plus via Getty Images ZDNET核心要点 美国人使用AI搜索信息——包括选举信息。 选民向聊天机器人询问基本选举信息和候选人推荐。 AI系统可能产生幻觉,并为政治信息增添偏见层次。
如今大多数搜索工具都在你和你要找的信息之间加了一层AI,尤其是Google。 另见:厌倦了AI Overviews?我找到了9个Google搜索替代品
在一项新研究中,耶鲁研究人员发现,三分之一的用户让聊天机器人帮他们挑选候选人。Grok常常在没有任何用户信息的情况下自行推荐候选人,而ChatGPT总体推荐候选人的频率最高,是Claude的两倍。
研究人员让35个有参议院选举的州的近2500人向ChatGPT、Claude、Grok或Gemini询问选举相关问题。这项研究在10月进行了数周,直到11月3日中期选举;参与者是已经每周使用聊天机器人的成年人。
大多数用户向聊天机器人询问选举的基本事实,包括谁在选票上。但36%的人让聊天机器人帮他们挑选投票对象,通常是描述自己的优先事项,并让聊天机器人评估哪些候选人与之契合。
前一类询问的出错空间略小,因为互联网上有大量关于选举基本事实的数据,比如谁在哪里竞选。另一方面,聊天机器人解读候选人立场则更微妙,并在很大程度上依赖其使用的来源(例如,候选人自己网站上的声明,比对手在社交媒体上以某种方式描述他们的片段更可靠)。 另见:如何尽可能让你的聊天机器人对话保持私密
在一个例子中,用户让ChatGPT给出弗吉尼亚州每位候选人的“优缺点”,这是一个本质上主观的问题。
在推荐候选人方面,各聊天机器人差异很大。
“当用户询问该投票给谁但尚未透露任何关于自己的信息时,只有Grok经常推荐候选人,占14%的聊天,”研究人员写道。“一旦用户分享了自己的观点,ChatGPT在79%的聊天中推荐了候选人,Claude为40%,Grok和Gemini介于两者之间。”
Pew Research发现,接受调查的美国成年人中有42%使用聊天机器人搜索信息。这是一个宽泛的范畴,可以包括选举信息——但Pew还发现,只有8%的美国成年人报告在今年选举中使用聊天机器人查找选举相关信息。
不过,这些用户寻找什么很重要。Pew发现,在这一群体中,76%的人在询问候选人在某些问题上的立场,71%的人在核实他们听说的关于候选人或问题的信息。 另见:OpenAI将合并ChatGPT的聊天和工作标签页
鉴于聊天机器人仍不是可靠的摘要工具,如果用户不同时核对聊天机器人链接的来源,这些问题的性质会带来错误信息风险。绝大多数用户不会这么做,至少在使用Google的AI Overviews时如此。至少一项研究发现,AI平台给用户提供了“过时或不准确”的信息,在某些情况下可能误导选民,比如遗漏截止日期或未提及投票流程中的某个步骤。
本次选举周期尤其受到AI生成深度伪造和错误信息的困扰,因为自2024年选举以来,相关工具已变得复杂得多。据Politico和Semafor的独家报道,OpenAI和Anthropic据称设立了选举“作战室”,以监控滥用和信息准确性。
虽然Brennan Center for Justice8月的一项研究发现,聊天机器人在反击与选举虚假信息活动相关的某些谎言方面出人意料地有效,但研究也发现,AI模型在被要求时很容易生成“误导性的选举相关图像和视频”。
“它们的许多防止此类情况的保障措施无效、应用不一致,或实际上不存在,”该研究指出,该研究测试了ChatGPT、Gemini、Grok、Meta AI、Runway和Flux.2。 另见:50个AI代理试图建立一个繁荣的Minecraft文明——结果并不好
然而,除了这些因素之外,AI使用中还有一个更广泛的主题对公民参与同样重要:认知卸载。对于试图保持知情权的选民来说,政治媒体环境本已密集且难以解析。在此基础上叠加一个聊天机器人——其训练数据集、过滤器和其他设置由AI实验室自行决定且不透明——可能会进一步搅浑水,同时看起来像是一个方便且中立的摘要工具。
虽然一些研究使用标准化问题测试AI聊天机器人如何回应选举问题,但这种方法让用户自己以平常方式与聊天机器人互动。虽然耶鲁研究人员的问题和标准化研究问题显示出很多相似之处,但这种区别对评估很有价值。
“这是朝着评估AI对用户实际提出的问题的政治影响迈出的一小步,”研究人员指出。
除了用户自我报告他们向聊天机器人问了什么之外,只有AI实验室拥有用户真正在问什么选举相关问题的记录。10月,Anthropic分析了25万次与Claude的对话,确定人们“很少问Claude该投给谁或投什么”,发现“所有对话中有0.51%具体涉及选举或投票”,尽管它预计随着11月3日临近,选举相关查询会增加。 另见:我用6个AI代理工作流来交接日常任务
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。