Anthropic与OpenAI为中期选举设虚假信息作战室
来源标题：Anthropic and OpenAI Are Creating Warrooms for Election Misinformation
Anthropic和OpenAI将为美国中期选举分别设立“作战室”，确保平台提供准确的选举信息，这是两家公司首次采取此类措施。作战室将监控平台滥用情况并快速响应事件，重点应对深度伪造视频和AI搜索结果传播错误信息等风险。
以下正文由 AI 翻译自 Hacker News 最新（原文版权归原站所有），可能存在偏差，重要内容请以原文为准。
分享到邮件、WhatsApp，复制链接 分享 Carlos Barria/路透社 OpenAI和Anthropic都将设立专门的“作战室”，以确保其平台在中途选举期间提供准确信息，这对两家公司来说都是首次。 科技平台设立“作战室”的概念可以追溯到2018年，当时Meta首次设立此类部门，以应对选举相关虚假信息扩散的担忧。AI时代进一步放大了这些威胁，如今还包括深度伪造视频以及AI驱动的搜索结果传播错误信息。 一个典型例子：上周，Google的AI Mode对“谁赢得了2020年大选”的查询不予回应，公司称正在努力修复这一问题。 “公司各团队全年都在加强选举相关防护措施并执行我们的政策。选举前，我们设有专门的作战室，监测平台上的滥用行为，并随时准备快速响应任何事件，”Anthropic的一位发言人对Semafor表示。 由于AI的不可预测性、近期的网络安全问题，以及AI搜索工具倾向于回应用户想看到的结果，这些工作将变得更加困难。 前Meta公共政策总监Katie Harbath对Semafor表示，作战室“是为了应对我们无法必然预测的错误，你需要一套快速、既定的分诊流程。”
正文由 探How 从来源站点 RSS 同步，内容未经改写；遇到排版缺失或需要图片、视频时请以原文为准。