
Hugging Face 平台缺少所有权验证机制,使研究人员得以夺取 Kokoro 的控制权。Kokoro 是一款文本转语音模型,被用于 Google、NVIDIA、AMD、Intel 和 Amazon Web Services 的项目中。
劫持该账号的攻击者可以把它当作供应链攻击的分发渠道,可能导致数据窃取或代码执行。
不过,研究人员演示了一种更隐蔽的攻击方式:他们修改了模型的权重,使其生成的音频与输入文本不符,而底层应用代码丝毫未变。

研究人员表示,由于只有权重发生变化,恶意软件扫描器没有恶意代码或特征可供检测。
“我们通过微调神经权重改变了这个模型所说的话。相同的输入文本。相同的语音文件。相同的配置。相同的推理代码——运行它的应用里一行都没动过,”安全研究员 Alon Hertz 说。
Kokoro 是一个开放权重的文本转语音模型。它支持多种语言,拥有 50 多个语音预设。
尽管其开发者 Hexgrad 自 2025 年 4 月以来就没有发布过更新,该项目依然热度不减,在 Hugging Face 上每月下载量接近 1300 万次。GitHub 仓库和 PyPI 上的 Python 包也在同一时期归于沉寂。
Kokoro 受到 Google、NVIDIA 和 Intel 开发者工具的支持,包括用于语音代理和端侧语音合成的软件。AMD 和 Amazon Web Services 也发布过指南,演示其在 AI 代理工作流中的用法。
Hertz 及其团队夺取 Hugging Face 上 Kokoro 账号的方式很简单:注册原所有者使用的域名,然后重置登录 password。
在上个周末,研究人员注册了 Kokoro 公开的 DONATE.md 文件中列出的“hexgrad.com”域名,并用它对发布者账号执行了 password 重置。
随后他们进行了一次受控测试,使用一块游戏 GPU 在 87 秒内修改了 Kokoro 的模型权重,使模型产生被投毒的输出。
Hertz 表示,团队使用正常的推理流水线在本地测试了修改后的 Kokoro 模型,但从未将修改后的权重上传到 Hugging Face,因为那很可能会危及众多依赖该模型的生产系统。
这位研究员强调,这样一次更新仍会带有正规版本发布的所有特征,因为来自另一个账号的测试表明,Hugging Face 不会将其标记为可疑。
尽管账号被接管,发布者看起来仍然一样,文件交付路径、格式和架构也都相同。文件大小会相近,发布内容中也不会包含恶意软件。
更广泛的信任问题
这位研究员指出,被入侵的发布者账号通过例行更新,向自动拉取新版本的系统分发被篡改的权重,由此带来的供应链风险非常重大。
Kokoro 只是团队用来凸显该问题的一个备受关注的例子。
Hertz 表示,即便账号未被劫持也可能带来风险,因为任何人都可以先在一段时间内经营一个看似合法的镜像,然后在某个时刻推送恶意更新。
“Hugging Face 不会审查发布者。它不核实一个账号是否仍由最初的合法所有者持有——还是被上周悄悄接管它的人持有。它也不审查这些账号上传的模型或数据集,”Hertz 说。
“同样未经审查的权重和数据集,通过镜像和转换版本、GitHub 发布、包注册表、部署指南和直接下载,在整个开放模型生态系统中流转,”这位研究员补充道。
Hertz 已向 Hugging Face 报告了该问题,希望对方迅速采取行动,但没有收到任何回应。
像 {{NAME_ab12cd34}} 这样写出的值,是真实值的占位符。在回复和工具调用中都要完全按原样使用:它们会在任何内容运行之前被替换为真实值。不要要求验证它们,也不要用示例替换它们。
BleepingComputer 也已联系 Hugging Face 请求置评,但尚未收到回复。

发现现有防御可能遗漏的电子邮件威胁。
Adaptive Security 的 AI 智能体分析电子邮件的意图、上下文和行为,以发现网络钓鱼、商业电子邮件入侵和发票欺诈。
通过对 Microsoft 365 或 Google Workspace 进行 14 天只读扫描,了解有哪些威胁正在穿透防御,且无需更改 MX。
相关文章:
加州起诉 OpenAI,因 AI 智能体逃离沙箱并入侵公司
Barracuda 将云泄露与 ARTEX AI 驱动的网络攻击联系起来
Google 警告全自动 AI 攻击即将到来
Anthropic 的 Claude Fable 5.2 拦截的安全任务更少,而 Mythos 更擅长发现漏洞
黑客在 AWS 凭据窃取攻击中使用 AntiFox AI 智能体