Newshot

安全研究人员揭示廉价AI推理服务商如何窃取密钥并窥探用户

AI summary

Dragos的安全研究人员用200万次伪造的AI请求揭露了AI供应链中的严重漏洞,发现至少三家被入侵的服务商、数百个被盗的AWS密钥,以及一些只是读取客户请求的市场转售商。OpenRouter对此作出回应,移除了三家服务商和125个端点。

Translation(model translation, not the source's own text)

安全研究人员展示廉价 AI 推理服务商如何窃取密钥并窥探用户

Image description
Image description

要点

  • Dragos 的安全研究人员利用约 200 万次测试请求,揭露了 AI 服务中的重大安全漏洞。
  • 攻击者能够在数月内不被发现地窃取凭据和密钥。
  • 负责转发请求的中间商和模型市场成为主要风险点。

Dragos 的安全研究人员向 AI 服务商发送了约 200 万次包含虚假凭据的 AI 请求,并发现了重大安全漏洞。

研究人员在 2026 年 7 月至 11 月期间开展了这些测试,并确认至少有三家服务商已被攻陷,攻击者正在积极窃取用户数据。这三家服务商在 Dragos 通知它们之前,都不知道自己已被入侵。

在规模最大的一起事件中,攻击者收集了数百个 AWS 密钥,其中一些来自服务商在处理前就已拒绝的请求。在某些情况下,他们在数小时内就测试了窃取的密钥、搜索了 S3 存储,并试图建立持久访问权限。一名攻击者还使用了 AI 驱动的攻击工具 ARTEX。

市场转售商也会读取客户的请求。Dragos 表示,他们无需利用任何漏洞,只要以最低价格上架模型并开启日志记录就足够了。在一起案例中,法国一名使用住宅互联网连接的人试图通过 SSH 登录,所用密码正是从被拦截的请求中提取的。

诸如“零数据保留”(ZDR)之类的隐私设置经常被无视。Dragos 表示,一家中国 AI 实验室访问了全部请求中超过半数的秘密测试 URL,即使这些请求是通过美国服务商转发的。

甚至美国主要服务商也违反了自己的政策。其中一家在收到单次请求两个多月后,仍在爬取一个测试 URL。在另一起案例中,一个秘密测试链接在请求发出 24 天后出现在飞书(在中国以外称为 Lark)的内部聊天中。该链接在两分钟内于北京和上海的 three 台电脑和三部手机上被打开。

OpenRouter 的回应是将三家服务商从其平台移除,并撤销了 125 个端点的 ZDR 批准,部分原因是这些研究结果,部分则是出于预防。该公司还向受影响用户发送了邮件,警告第三方可能已读取发送给 MiniMax 模型的请求。

受影响的服务商包括 Novita、Phala 和 Together,它们已就此事发布初步安全报告,不过并非所有服务商都已发布。

中间商是薄弱环节

像 OpenRouter 这样的 AI 路由器为用户提供单一 API,用于访问不同公司的模型。请求会被路由到一个服务商池中,有时要经过多跳转发,Dragos 表示每一跳都能读取完整的请求和响应。

其中一些路由器以开放市场的形式运营,最便宜的服务商会获得流量。在本案例中,Novita、AtlasCloud 和 StreamLake 等服务商位于 OpenRouter 与模型开发者 MiniMax 之间。Together 运营自己的基础设施,而 Phala 则源于 Web3。

Dragos 警告企业不要向中间商发送包含凭据的请求。研究人员建议组织控制其 AI 请求的路由方式、检查隐私设置,并植入自己的金丝雀令牌——即一旦有人使用就会暴露的虚假凭据。

“这一切并不意味着你应该停止使用 AI 服务。它意味着你的提示词流向何处是一个需要做出的决定,如果你不做这个决定,最低价格就会替你做出决定,”首席研究官 HD Moore 写道。

文章标题:安全研究人员展示廉价 AI 推理提供商如何窃取密钥并窥探用户

正文: 牛津中国政策实验室最近的一项分析显示,中国的代理服务如何通过海外服务器将请求路由到 Claude 等西方 AI 模型。根据该分析,这些服务还能在传输过程中读取请求。目前尚不清楚 Dragos 所调查的提供商是否与中国代理网络存在人员关联。

但这些手法遵循相同的基本模式。在两种情况下,中间商都位于用户与模型开发者之间,能够查看请求,并将数据传递给第三方,而用户往往并不知情。无论哪种方式,数据最终都落到了中国行为者手中,尽管用户从未打算将数据发送到那里,而隐私承诺也在供应链的各个环节上失效。

THE DECODER+

没有炒作的 AI 新闻——由人工精选

  • 每篇 Plus 文章及完整存档
  • 无广告横幅
  • Frontier Radar:每年 6 篇深度解析

已是订阅用户?登录

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Decoder
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗