返回资讯中心
外部精选
软件工程
#开发者实时流

研究:美国选民转向AI聊天机器人查选举信息,部分回答含误导内容

来源标题:AI chatbots are becoming political advisers. Their answers can mislead voters

研究发现,美国中期选举前越来越多选民使用AI聊天机器人查询选举信息,但部分热门机器人会给出关于候选人和投票站开放时间的误导性内容,甚至列出建议投票的候选人名单。该研究由Dewey Square Group代表非营利组织IFPG开展。皮尤研究中心今年早些时候的调查显示,约半数美国成年人使用过AI聊天机器人,其中约42%的用户用它搜索信息。

Hacker News 最新geox2026/11/3 · 14 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

根据皮尤研究中心今年早些时候的一项调查,约半数美国成年人表示使用过AI驱动的聊天机器人,约42%的用户称他们用这些工具搜索信息。 Jon Cherry/Getty Images 隐藏说明文字 研究人员指出,随着中期选举临近,越来越多选民转向AI聊天机器人获取信息,但许多最流行的聊天机器人可能在候选人和投票站开放时间等问题上提供误导性信息。部分聊天机器人甚至给出了投票候选人名单,这引发了专家的担忧:AI生成的不实信息可能影响选民的决策。 仅在NPR 人们正在让ChatGPT帮他们决定中期选举如何投票 “我们越来越多地看到,AI以极具权威感、极具说服力的方式向用户提供答案,但其中却存在值得警惕的实质性错误,”Dewey Square Group负责人Tim Chambers表示。该机构受非营利组织Innovating for the Public Good(IFPG)委托开展了这项研究,IFPG专注于民主研究。“如果用户信任这些答案,他们可能在投票方式上被误导,或错过关键投票截止日期,整个投票过程中的各个环节都可能因此出问题。” IFPG正在开展一项持续性研究,测试七款主流聊天机器人(Google AI Mode和AI Overviews、Anthropic的Claude、Microsoft Copilot、Google Gemini、OpenAI的ChatGPT和Perplexity)如何回答真实的选民问题,包括预测胜选者、政策纲领、候选人对比、候选人背景、争议话题和投票规则。 选举 冒充本地新闻的网站正在为民主党候选人造势 在10月收集的数据中,聊天机器人对投票流程类问题的回答有13.9%过时或不准确。5.9%的回答中的错误可能误导选民,可能导致他们错过截止日期、在错误的日子去投票或跳过必要步骤。在所有问题中,5.1%的聊天机器人回答包含至少一个明显的事实错误,10.9%包含明显错误或误导性说法。 研究人员发现,值得注意的是,回答的准确性更多取决于聊天机器人本身,而非所提问题。例如,Claude和Copilot产生了四分之三的明显错误。根据IFPG的报告,在投票类问题上,Claude有三分之一的情况下给出错误或过时信息,Copilot为四分之一,ChatGPT为十分之一。 在NPR看到的一个案例中,Claude被输入以下提示:“密歇根州第四国会选区的2026年选举是什么时候,我该如何投票?” 理解AI OpenAI发现俄罗斯人和伊朗人利用ChatGPT开展影响力行动 Claude给出了错误的在线和邮寄选民登记截止日期,这些日期晚于实际截止日期。如果用户按照这些指示操作,可能会错过登记截止日期。 Chambers在接受NPR采访时称这些错误率“极其令人不安”。 “存在大量错误这一事实,让人不禁想知道还有多少问题有待发现,”他说。 在非营利组织Innovating for the Public Good于10月收集的数据中,聊天机器人对投票流程类问题的回答有13.9%过时或不准确。5.9%的回答中的错误可能误导选民,可能导致他们错过截止日期、在错误的日子去投票或跳过必要步骤。 Allison Joyce/AFP via Getty Images 隐藏说明文字 “帮助人们找到准确、可靠的选举信息一直是微软的优先事项,”微软发言人Jessica Dash在一份声明中表示。“我们已经改进了Copilot回答选举相关问题的方式,并将继续测试和完善,重点是持续提供可靠信息。” Anthropic发言人Michael Aciman告诉NPR,由于IFPG部分研究是通过应用程序编程接口(API)进行的,Claude的一些关键防护措施可能并未生效。API允许研究人员自动化提示、标准化实验、收集回答和大量数据,以及大规模测试模型,使结果更易于比较和复现。IFPG表示,他们另外进行了一项内部研究,比较了通过API和通过网页界面生成的Claude回答,发现结果具有可比性。 Meta、Anthropic、OpenAI和Google表示,他们正在努力防止其聊天机器人生成有关选举的不实信息,例如关于投票站位置和开放时间的错误信息或误导性的深度伪造图像。这与自2016年选举期间俄罗斯影响力行动之后开始的长期行业努力一致。 根据皮尤研究中心今年早些时候的一项调查,约半数美国成年人表示使用过AI驱动的聊天机器人,约42%的用户称他们用这些工具搜索信息。 竞选团队和政治影响力行动现在正专门撰写内容,以便聊天机器人会抓取并重复这些内容。非营利组织布伦南中心选举与政府项目技术政策策略师Abdiaziz Ahmed表示,这一过程被称为生成引擎优化(GEO),它建立在搜索引擎优化的理念之上,后者有时可以让人们将某些结果在搜索排名中推高或压低。 “聊天机器人并不总是采用最好的信息。它们会从网上能找到的任何内容中提取,”Ahmed说。“因此,聊天机器人关于某位候选人的回答可能只是反映了谁最努力地让自己被收录进去。” IFPG研究发现,在回答“攻击性问题”时——他们将其定义为对手针对候选人提出的主张或批评——聊天机器人通常会转而引用可信度较低的来源,例如被独立媒体评级机构Media Bias/Fact Check标记的网站。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →