返回资讯中心
外部精选
软件工程
#开发者实时流

研究人员利用 Hugging Face 验证漏洞控制热门语音模型 Kokoro 账号

来源标题:Researchers hijack Hugging Face account for popular Kokoro AI model

研究人员发现 Hugging Face 缺乏所有权验证,可劫持 Kokoro 模型账号。Kokoro 是 Hexgrad 开发的文本转语音模型,被 Google、NVIDIA、AMD、Intel 和 AWS 等项目使用。研究人员还演示了仅修改模型权重、不改代码就让输出音频偏离输入文本的隐蔽攻击方式。

Hacker News 最新shoshkin2026/11/18 · 今天11 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Hugging Face 平台缺乏所有权验证机制,研究人员借此接管了 Kokoro——一个被 Google、NVIDIA、AMD、Intel 和 Amazon Web Services 的项目所使用的文本转语音模型。攻击者若劫持该账号,便可将其作为供应链攻击的分发渠道,可能导致数据窃取或代码执行。然而,研究人员展示了一种更隐蔽的攻击方式:他们修改了模型的权重,使其生成的音频与输入文本不符,而底层应用代码丝毫未动。研究人员表示,由于只改动了权重,恶意软件扫描器找不到任何恶意代码或特征签名。

安全研究员 Alon Hertz 表示:“我们通过微调神经权重改变了这个模型说的话。输入文本相同,语音文件相同,配置相同,推理代码相同——运行它的应用一行都没碰。”

Kokoro 是一个开放权重的文本转语音模型,支持多种语言,拥有 50 多个语音预设。尽管其开发者 Hexgrad 自 2025 年 4 月起就再未发布过更新,该项目依然广受欢迎,在 Hugging Face 上每月下载量接近 1300 万次。其 GitHub 仓库和 PyPI 上的 Python 包也几乎在同一时间停止了维护。Kokoro 受到 Google、NVIDIA 和 Intel 开发者工具的支持,包括用于语音代理和端侧语音合成的软件。AMD 和 Amazon Web Services 也发布过指南,演示其在 AI 代理工作流中的用法。

Hertz 及其团队拿下 Kokoro 在 Hugging Face 上账号的方式很简单:注册原所有者使用的域名,然后重置登录密码。上周末,研究人员注册了 Kokoro 公开的 DONATE.md 文件中列出的“hexgrad.com”域名,并用它对该发布者账号执行了密码重置。随后他们进行了一次受控测试,用一块游戏 GPU 在 87 秒内修改了 Kokoro 的模型权重,使模型产生被投毒的输出。

Hertz 表示,团队在本地使用正常的推理流水线测试了修改后的 Kokoro 模型,但从未将修改后的权重上传到 Hugging Face,因为那很可能危及众多依赖该模型的生产系统。这位研究员强调,这样一次更新仍会带有合法版本发布的全部特征——来自另一个账号的测试表明,Hugging Face 不会将其标记为任何可疑内容。尽管账号被接管,发布者看起来毫无变化,文件分发路径、格式和架构也一样。文件大小相近,发布内容中也不含恶意软件。

这位研究员指出,被攻陷的发布者账号通过例行更新向自动拉取新版本的系统分发被篡改的权重,由此带来的供应链风险十分重大。Kokoro 只是团队用来凸显该问题的一个高关注度案例。Hertz 表示,即使账号未被劫持也可能构成风险,因为任何人都可以在一段时间内精心维护一个表面上合法的形象,然后在某个时间点推送恶意更新。

Hertz 说:“Hugging Face 不审核发布者。它不验证一个账号是否仍由最初的合法所有者持有——还是上周被某人悄悄接管了。它也不审核这些账号上传的模型或数据集。”这位研究员补充道:“同样的未经审核的权重和数据集,流经镜像和转换版本、GitHub 发布、包注册表、部署指南以及直接下载,贯穿整个开放模型生态。”

Hertz 已向 Hugging Face 报告了该问题,希望对方迅速采取行动,但没有收到任何回复。BleepingComputer 也已联系 Hugging Face 寻求置评,但截至发稿尚未收到回应。

Adaptive Security 的 AI 代理可分析邮件意图、上下文和行为,以发现钓鱼、商业电子邮件入侵和发票欺诈。通过对 Microsoft 365 或 Google Workspace 进行为期 14 天的只读扫描,无需更改 MX 记录,即可了解有哪些威胁正在绕过防护。

加州起诉 OpenAI,指控其 AI 代理逃离沙箱并入侵企业

Barracuda 将云 breaches 事件与 ARTEX AI 驱动的网络攻击关联

Google 警告全自动 AI 攻击即将到来

Anthropic 的 the model 5.2 拦截的安全任务变少,而 Mythos 在发现漏洞方面变得更强

黑客在 AWS 凭证窃取攻击中使用 AntiFox AI 代理

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →