Newshot

金丝雀令牌测试揭示AI供应商数据泄露

Translation(model translation, not the source's own text)

获取每日邮件

每日 AI 新闻,去掉炒作成分:每天早上一条简短摘要。

Dragos 金丝雀令牌测试揭露三家 AI 供应商数据泄露、提示词窃取与零留存设置被无视

2026 年 11 月 20 日 · Dragos · 安全 · 中国

安全公司 Dragos 在 2026 年 7 月至 11 月的五个月期间,向广泛使用的 AI 服务中投放了近两百万条带有唯一可追踪金丝雀令牌的提示词。该实验发现了三起供应商被入侵的证据、推理市场转售商未经授权访问客户提示词的行为,以及大量未能遵守零数据留存和其他隐私设置的情况 [1]。

两百万条提示词、五个月、三起入侵

Dragos 研究人员向 AI 供应商提交了约两百万条包含唯一 URL、DNS 名称和 AWS 凭据的提示词,并监控这些机密在何处浮出水面。金丝雀令牌的设计使任何访问尝试都能表明原始提示词已被 AI 供应链中的某个人看到 [1]。

该调查产生了三项主要发现。第一,有活动迹象表明至少三家 AI 托管供应商的数据被暴露。攻击者使用植入的凭据访问了 Dragos 控制的测试系统和金丝雀 AWS 账户。最早的事件可追溯至 7 月中旬,Dragos 表示这三家供应商在被通知之前都不知道自己已被入侵 [1]。

第二,通过一个 AI 推理市场运营的多家转售商能够利用标准日志记录功能查看并留存客户提示词,而无需利用漏洞或绕过平台控制 [1]。

第三,供应商似乎未遵守客户隐私设置或已发布的政策。例子包括:提交给美国供应商的提示词被传输至中国的 AI 机构;唯一 URL 在单次推理请求数月后被访问;以及一个植入的链接出现在中国某公司的内部聊天中 [1]。

实验如何运作

Dragos 于 7 月开始使用 Thinkst Canarytokens,在每条请求中嵌入一个 AWS 密钥、一个 DNS 名称和一个从未出现过的 URL。令牌在数天内便开始触发,而 7 月的令牌到 11 月仍在触发。随后该团队构建了一个专用服务,为每条提示词生成唯一种子,从中派生主机名、URL 和凭据,并运行这些凭据所指向的服务——DNS、Web、git、SSH、数据库和邮件。这些 AWS 密钥是真实密钥,绑定到启用了完整日志记录的空账户 [1]。

为了追踪提示词的实际流向,Dragos 构建了它所谓的 AI 推理 traceroute:一个指向其服务器的图片 URL,可揭示每一个获取该图片的系统;再加上略微畸形的请求,使每一跳路由器将后一跳的错误包裹起来,从而暴露软件和公司的链路。截至目前已追踪约两千条路径 [1]。

发现一:三起供应商入侵

Dragos 称这是最严重的发现。最大的一起入侵涉及数百个 AWS 密钥,每个密钥都在 10 月下旬的几个短暂窗口内被恰好发送给某一家供应商一次。这些窗口期间发送的每一条请求都被窃取。部分被盗密钥来自供应商在任何模型运行之前就已拒绝的请求,这表明攻击者是在供应商的前门处复制请求 [1]。

在另外两起入侵中,部分被盗请求带有零数据留存标志。“当攻击者已经进入内部时,隐私标志毫无用处,”该文章写道 [1]。

攻击者拿到密钥后,在数小时内测试了密钥是否有效,随后列出 S3 存储桶、搜索 Secrets Manager 和 Parameter Store,并尝试在 AWS Bedrock 中启用托管模型、创建 Bedrock API 密钥以及添加 IAM 用户。这些诱饵密钥被用于数万次 AWS API 调用 [1]。

文章标题:Canary Token 测试揭露 AI 供应商数据泄露

正文: 一名攻击者似乎同时攻陷了两家供应商。发送给这两家供应商的密钥几乎立即被一起使用,来源是一台租用的服务器。在三周内,攻击者的工具从伪装成 Windows 上 Chrome 的脚本,转变为 OrbStack 中的 Boto3,再到 Kali Linux 上的 AWS CLI。11 月 1 日,攻击者加入了 ARTEX,一个由 LLM 驱动的渗透测试框架。它发送的两个 user agent——artex-agent 和 artex-judge-r121——并未出现在 Dragos 能找到的任何公开指标列表中 [1]。

发现 2:市场转售商读取提示词

第二项发现无需任何漏洞利用。市场卖家只需以最低价格上架一个模型,启用请求日志记录,然后等待即可。Dragos 描述了从家庭互联网连接和个人电脑上工作的个人,试图一次一个登录地闯入 canary 服务器 [1]。

在一个案例中,通过同一卖家报价发送的两条提示词在大约一天半后从家庭宽带连接被打开,并在登录页面猜测用户名。通过另一个卖家发送的同一模型的提示词从未被触碰,这表明泄露跟随的是卖家,而非整个市场。在另一个案例中,法国家庭宽带线路上的一台 Mac 从两条提示词中窃取了密码,并尝试以 root 身份手工输入 SSH 登录,随后测试了多个 AWS 密钥 [1]。

一台路由器在悄悄地将部分流量转发到市场——一个未披露的跳点。Dragos 解释说,路由器经常通过多个跳点传递请求,每个跳点都能看到完整的提示词和响应。一些卖家从消费者订阅、创业公司额度,或者在更阴暗的市场中,从窃取的 AWS 凭证或 API 密钥获取廉价容量 [1]。

发现 3:隐私设置被无视,数据流向中国实验室

第三项发现不涉及任何被盗凭证。提示词中的秘密 URL 被反复抓取,其中引用的 git 仓库被作为克隆目标,而这一切由本不应看到这些提示词的公司所为,且往往与隐私设置直接冲突 [1]。

最清晰的例子涉及一家中国 AI 实验室。在 7 月至 10 月期间,其系统抓取了发送给其模型的超过一半提示词中的秘密 URL,其中包括约三分之二标记为“不收集数据”或零数据保留(Zero Data Retention)的请求。抓取器通常在请求发出两到三天后出现。多家美国托管供应商转售该实验室的模型,发送给这些供应商的提示词触发了同一个抓取器——这意味着选择了美国供应商以将数据留在美国的客户“没有得到他们所付费购买的东西” [1]。

Dragos 还描述了自身存在问题的美国大型供应商:一家在其搜索端点收到单次推理调用两个多月后,仍在继续爬取一个秘密 URL;另一家运行的抓取器在每次请求后数天返回,无论路由器如何 [1]。

最奇怪的事件:一条提示词发送给某中国供应商 24 天后,该秘密链接被发布到飞书(Lark)聊天频道,并在两分钟内从北京和上海的三个桌面端和三个手机端被打开。Dragos 仅向该供应商披露了该链接的前八个字符,因此分享该链接的人是在一个标记为 ZDR 的请求发出三周多后,读取了完整提示词的存储副本 [1]。

供应商响应与披露

Dragos 在事件得到确认时通知了各供应商。第一家供应商最初认为该活动是配置错误,然后是合作伙伴数据处理问题,直到调查发现攻击者也攻陷了内部凭证的证据。截至 10 月下旬,该供应商仍未公开披露该事件,而被盗数据继续导致登录尝试 [1]。

文章标题:Canary Token 测试暴露 AI 提供商数据泄露

正文: 针对十月下旬的入侵事件,Dragos 在确认第三方访问后主动联系了相关方;其中一家提供商已发布初步安全通告。对于严重程度较低的数据共享问题,通知于十一月初开始发出。Dragos 表示目前正与约十几家提供商合作。各方反应不一:将流量转发至该市场的路由器表示已停止转发,多家提供商启动了调查,但被盗密钥和秘密 URL 在数月后仍被访问 [1]。

仍未知晓的部分

Dragos 的帖子中未点名这些提供商。泄露事件本身尚未得到独立确认,受影响的提示词比例也仅限于 Dragos 自己的样本。所观察到的行为——例如无视 ZDR——是有意为之还是源于缺陷,尚未有定论;Dragos 称提供商“无论是有意还是由于缺陷”都会无视相关设置 [1][2]。在已查阅的来源中,没有任何提供商发表声明对这些发现提出异议或予以确认 [2]。

Dragos 销售安全产品,并指出这项工作与其网络可见性平台 runZero 上的工作类似,表明其在提示词泄露检测方面存在商业利益 [1][2]。

Dragos 的建议

Dragos 建议,提示词的流向是一个需要做出的决策,如果客户不做这个决策,最低价格就会替他们做。其清单如下:对最敏感的工作采用自托管(硬件成本从 NVIDIA DGX Spark 的 $6,950 到八 GPU B300 服务器的 $570,000+ 不等);直接选择一线提供商;谨慎使用路由器——自行选择上游提供商,验证隐私设置确实改变了路由,并避免使用经销商市场;使用免费的 Thinkst Canarytokens 自行埋设 canary;并在可用的情况下启用秘密过滤,尽管它无法捕获形态不像 API 密钥的敏感数据 [1]。

Dragos 引用的 Lauren Proehl 开展的一项补充实验,在一台蜜罐服务器上泄露了凭证长达四个月,并观察到一个凭证经济体系:72% 的被盗 AWS 密钥被用于检查 SES/SNS 发送配额,从被盗到首次使用的中位时间为 37 分钟,而凭证的收集者与使用者通常在不同的网络上活动 [7]。

相关报道

  • Dragos Canary 测试发现三家 AI 提供商数据泄露、提示词窃取及零保留设置被无视 2026年11月20日
  • Dragos 研究在 Canary Token 测试中发现三家 AI 提供商数据泄露、提示词窃取及零数据保留设置被无视 2026年11月20日
  • 国家安全专家敦促 DOJ 就中国芯片走私问题调查 Nvidia 2026年11月19日
  • 美中 AI 安全会谈在 APEC 前因“严重”事件的定义陷入僵局 2026年11月14日

来源

  • Three breaches, endless leaks: Your AI supply chain needs canaries (dragos.com)
  • AI Prompt Canaries: 3 Provider Breaches, ZDR Ignored (explainx.ai)
  • The Briefing | P.K. Sharma (pk-sharma.com)
  • AI Fuels Cyberattacks, Critical Flaws Exploited,... - CyberNetSec.io (cyber.netsecops.io)
  • ‎Gemini Apps’ release updates & improvements (gemini.google)
  • AI Supply Chain Security: What Canary Tokens Found | Dragos - Dragos (dragos.com)
  • I leaked credentials on purpose for four months. Here’s who took them, and what they did next. (dispatch.thorcollective.com)

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗