返回资讯中心
外部精选
软件工程
#开发者实时流

AI合成语音用于报假警,911调度员更难识别

来源标题:Swatting calls using AI means fake 911 calls are harder to detect

利用AI生成语音拨打911报假警(swatting)正成为新难题,调度员难以辨别真伪。今年8月加州Yuba县Wheatland Union高中因炸弹威胁电话紧急疏散停课,事后证实为骗局且无人受伤。当局称这是今夏针对全美学校的系列虚假报警之一。

Hacker News 最新rbanffy2026/11/12 · 5 天前16 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

2020年,马里兰州格伦伯尼,安妮阿伦德尔县消防局的一名调度员在部门调度中心接听911紧急电话。长期以来,911调度员一直在应对“报假警”电话,即来电者谎报炸弹威胁、大规模枪击或其他危及生命的紧急情况,目的是引发大规模应急响应。如今,AI生成的语音电话正带来新的挑战。 Alex Edelman/AFP via Getty Images 隐藏图注 今年8月,一名来电者向加利福尼亚州尤巴县的惠特兰联合高中发出炸弹威胁。 警方连夜响应,学校停课。结果没有炸弹,也无人受伤。 Planet Money 的 The Indicator 用AI对抗AI 当局表示,这是今夏针对全国多所学校的一系列恶作剧电话(也称“报假警”)的一部分。 据FBI称,报假警电话可能打给911或警察局,来电者谎报炸弹威胁、大规模枪击或其他危及生命的紧急情况,意图引发大规模应急响应。 911调度员长期以来一直在处理这个问题。但尤巴县的事件有所不同:这通电话是由AI生成的声音拨打的,这对应急响应人员来说是一个新的、日益严峻的挑战。 “那些(报假警者的)声音过去很容易辨认,但现在听起来很自然。它们可以插入停顿。它们可以使用‘呃’或‘也许,嗯,让我想想’这样的词。听起来非常自然,”国际公共安全通信官员协会(APCO International)首席执行官兼执行主任梅尔·迈尔说。 报假警电话的目的是骚扰或报复目标对象——比如公职人员。它们通常会引发警方大规模、混乱的响应,将公共安全资源从真正的紧急情况中转移走。 迈尔指出,报假警袭击中也有人死伤。 理解AI AI聊天机器人正成为政治顾问。它们的回答可能误导选民 心理健康 新研究显示,近三分之二的青少年和儿童使用AI聊天机器人 使用AI生成声音或背景音的报假警者使这些恶作剧电话听起来更加逼真,也更难分辨真假。 代表911调度员的APCO和NENA:9-1-1协会表示,尤巴县这样的事件反映了他们对AI可能被不法分子利用的日益担忧。 APCO和公共安全威胁联盟(一个信息共享和网络安全组织)调查了报假警在911呼叫中心的普遍程度。他们于6月发表了基于766份公共安全通信专业人士回复的调查结果。约14%的调度员表示他们曾遭遇AI工具的针对。迈尔认为,随着工具日益先进,这个数字还会继续上升。 佛罗里达理工学院法医心理学助理教授布兰登·梅表示,像ElevenLabs这样开发合成语音软件的人工智能公司提供的AI工具极其便宜且易于获取。 “我可以在ElevenLabs上克隆自己的声音,花费不到20美元,而且我可以改变语调。我可以改变声音的低沉或高亢程度。我可以改变停顿,”他说。 这使得任何人都很难识别这些AI伪造品。 “仅仅看一张图片、听一段视频或听一个声音就能说‘那是AI’,这已经不再简单了。人们经常被这些东西骗到,”他说。 揭秘虚假信息 用AI检测AI生成的深度伪造对音频有效——但并非总是如此 流行文化 担心AI劫持你的声音制作深度伪造?这个工具可以帮忙 梅表示,使用AI聊天机器人的精心设计的诈骗来电者甚至能诱骗人们交出毕生积蓄。 这些假声音和音效日益复杂,使得紧急调度员在梅所称的“高风险、高后果”通话中尤其难以判断什么是真实的。“几乎不可能检测出来,”他说。 尽管困难重重,APCO和NENA正在开发培训成员应对这些新威胁的方法。 NENA副总裁兼911运营主管艾普丽尔·海因策表示,报假警电话有一些特征。 例如,大多数报假警者不会直接拨打911。 “原因是911会提供位置信息。它提供回拨号码。它提供手机拥有者的姓名。它提供大量额外数据,而且你真的不可能在911上伪造你的位置,”她说。 海因策解释说,报假警电话通常打给警察局或法院。这些来电者最终会被转接到911中心。因此,她说,试图追踪这些电话是不可能的。 海因策和迈尔都拒绝描述识别潜在AI报假警电话的培训具体内容。他们说,可获取的信息越多,未来训练AI欺骗调度员就越容易。 迈尔确实提到了一个培训思路。APCO正在努力制定来电者询问的培训标准,即调度员以“如此精细的程度”向来电者提出具体问题,以至于“AI无法从公共数据库中获取该信息,无法从社交媒体帖子中捕捉到,也无法简单地猜测出来,”他说。 尽管对AI使用的担忧日益增加,迈尔和海因策都强调,调度员将始终假定报告危及生命情况的电话是真实的——并将继续向任何求助电话派遣应急资源。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →