Newshot

OpenRouter 在研究人员发现 AI 托管公司长达数月的提示词窃取行为后移除 3 家供应商

AI summary

工业网络安全公司 Dragos 本周表示,攻击者从三家 AI 推理提供商内部窃取数据长达数月,而这三家在研究人员告知之前均毫不知情。部分被窃取的请求被标记为“零数据保留”,该设置本应意味着提示词永远不会被存储。

Translation(model translation, not the source's own text)

工业网络安全公司 Dragos 本周表示,攻击者从三家 AI 推理提供商内部窃取数据长达数月,而这三家公司在研究人员告知之前均毫不知情。

部分被窃取的请求被标记为 Zero Data Retention(零数据保留),该设置本应意味着提示词永远不会被存储。

OpenRouter 是一家将客户的 AI 请求路由至第三方提供商池的网关,该公司今日表示,已从平台上移除三家提供商,将 125 个端点从 Zero Data Retention 的适用范围内移除,并通知了所有可能受影响的客户。该公司称,调查结果未显示 OpenRouter 自身遭到入侵。

三起入侵中最早的一起始于 7 月中旬。该公司表示,植入的提示词是诱饵,但它们与真实客户请求一同被处理,而那些真实请求几乎肯定也被复制了。

这一发现来自 canary token 研究:在 7 月至 11 月间,研究人员向约两百万条提示词中植入了唯一的网页链接和凭证,然后监控是否有人使用它们。植入的密钥只能在一个地方被获知,因此任何使用行为都意味着有人读取了携带该密钥的提示词。

三起入侵中规模最大的一起涉及植入的数百个 AWS 密钥,每个密钥在 10 月下旬的几个短暂窗口期内仅向一家提供商发送了一次。这些窗口期内发送的每一个请求都被窃取,其中一些来自提供商在模型运行之前就已拒绝的请求,这表明攻击者是在请求到达的第一节点复制流量,而非在推理栈的更深处。

窃贼在某些情况下数小时内就测试了密钥,列出了 S3 存储桶,搜索了 Secrets Manager 和 Parameter Store,并试图创建 Bedrock API 密钥和添加 IAM 用户以维持访问权限,共触发了数万次 AWS API 调用。

一名攻击者似乎同时入侵了两家提供商,从一台租用的服务器上使用了来自两家的密钥。

11 月 1 日,同一攻击者引入了 ARTEX——一个 AI 驱动的渗透测试框架,仅用于确认其已持有的密钥仍然有效。其两个用户代理 artex-agent 和 artex-judge-r121 未出现在该公司所能找到的任何公开指标列表中,值得加入检测规则。

“当攻击者已经身处内部时,隐私标志毫无用处,”该公司的首席研究官 HD Moore 写道。

第二项发现无需入侵。研究发现,某 AI 推理市场上的卖家以最低价格列出模型,启用请求日志记录,并收集流经的一切内容。

从事此事的人看起来像是使用家庭互联网连接的个人。其中一人使用法国家庭宽带的一台 Mac,从两条提示词中获取了密码,手动尝试 root SSH 登录,然后用同一台机器测试了数个植入的 AWS 密钥。

其中一个密钥曾流经另一个路由器,该路由器悄悄将其部分流量转发至该市场——这一跳转从未告知任何客户。该路由器此后已告知该公司其已停止该行为,而对约 2,000 条路径的路由追踪发现了数百个未识别的系统,以及一个卖家悄悄向每条提示词添加约 1,000 个隐藏 token 的行为。

一家中国 AI 实验室(研究未点名)在 7 月至 10 月间从其模型收到的超过一半的植入提示词中抓取了秘密链接,其中包括约三分之二的标记为不收集数据或 Zero Data Retention 的请求。发送至转售该实验室模型的美国托管提供商的提示词触发了同一个抓取器,从而回流至该实验室。

文章标题:OpenRouter 在研究人员发现 AI 托管公司数月提示词窃取后移除 3 家提供商

正文: 另一家云上的一台 git 客户端随后试图克隆提示词中引用的私有仓库,但只针对该实验室的模型;而一家美国大型提供商在向其搜索端点发出一次请求后,仍持续爬取一个秘密链接超过两个月。

一条提示词发出 24 天后,其秘密链接被发布到飞书的一个聊天中——飞书是中国的工作场所应用,在其他地区称为 Lark。该链接在两分钟内被北京和上海的三个桌面端和三个手机端打开。

该公司只披露了该提供商链接的前 8 个字符,因此发布者读到的是完整提示词的缓存副本。

Moore 写道,实际上,被标记的提示词被保留下来,传递给了其他公司,并被真人阅读。

OpenRouter 在一份事件公告中表示,被移出零数据保留资格的 125 个端点涵盖研究人员标记的提供商,以及作为预防措施被移除的其他提供商。审查期间被移除的任何端点,在恢复状态前都需要提供保证并经过验证。

该网关正在调整研究人员的测试方法,使检查能够持续运行,并正在验证网络路径,以识别请求和响应可能被转发给第三方的位置。

研究人员目前正与约十几家提供商合作,截至本周,植入的密钥和秘密链接在首次窃取发生数月后仍被访问。

平台公司 Railway 在 10 月表示,其遭受的一次入侵很可能是针对平台公司的一系列攻击的一部分,最终目标是攻陷 AI 推理提供商。

该网关表示,并非所有受影响的提供商都已公开发布消息,但无论如何都已通知受影响的用户。有三家已发布消息。

提供商披露了什么

Phala 上周在一份初步事件报告中表示,一名攻击者控制了 Phala 的一台推理服务器,并能在请求数据处理期间查看请求数据。该事件已于 11 月 8 日得到控制,模型服务已在增加防护后恢复。

报告称,在 10 月 21 日 00:00 UTC 至 11 月 8 日 05:35 UTC 期间通过网关到达 Phala 的、发往 DeepSeek V4 Flash 0731 模型的请求应被视为已泄露,其中的每个密钥、令牌、密码或其他秘密都应轮换。

一名第三方研究人员自 7 月 1 日起一直在请求中放置唯一的金丝雀凭据,只有 10 月 21 日和 22 日发送的那些后来被滥用。这些测试是对流量进行抽样,而非监控每个请求,因此该提供商维持了更广泛的预防性时间窗口。

Together AI 昨天在一份安全通知中表示,在一名 AI 编码代理将凭据提交到公司公开的 GitHub 仓库后,一个未经授权的方下载了存储的客户提示词样本。这些样本是为常规软件测试收集的,由 6 月和 7 月对 MiniMax M3、GLM-5.2 和 Kimi K2.6 模型的请求生成。

该方在样本中搜索了用于其他服务的凭据并进行了测试,其中五个被测试的凭据是研究人员实验中的金丝雀。该公司表示,没有理由认为数据被进一步扩散,了解到数据已被删除,并已将零数据保留设为新账户的默认设置。

该网关上的另一家提供商 Novita 本周在一份隐私通知中确认,一个路由配置问题导致部分 MiniMax 请求被发送到 MiniMax 的官方 API,超出了这些客户的预期范围。

Dragos 未点名三家被入侵的提供商,OpenRouter 未点名其移除的三家,双方也都未公开表示它们是否是同样的三家。

文章标题:研究人员发现 AI 托管公司长达数月的提示词窃取行为后,OpenRouter 下架 3 家提供商

正文: 研究人员称,7 月中旬那次泄露事件背后的提供商最初归咎于内部配置错误,随后又归咎于合作伙伴的数据处理,直到其自身调查发现攻击者已攻破其内部凭证。截至本周,该公司仍未公开披露这起事件。

用户应该怎么做

研究人员的建议始于一个限制:Moore 写道,隐私标志只约束第一跳,而 AI 代理会发送它们能读取到的任何内容,包括凭证在内。他写道,提示词发往何处是一种选择,而不做选择的客户就是把选择权交给了最低价者。

自托管是唯一没有第三方读取提示词的选项,而直接对接一级提供商则只剩一家公司、一份合同和一份隐私政策需要核查。

路由器需要更多谨慎:自行挑选上游提供商,而不是接受默认池;核实隐私设置确实改变了请求的去向;并远离经销商市场,其中一些容量运行在窃取的密钥上。

在代理和流水线已经发送的上下文中植入一个假凭证,可作为绊线——只要它的任何使用都被视为事件即可;一个免费的 Thinkst Canarytoken 就足以起步。从提示词中清除已知凭证格式的设置也有帮助,尽管它们会漏掉那些形状不像密钥的敏感数据。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Hacker News
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗