Newshot

近 200 万条请求揭开 AI 隐私漏洞:“零数据保留”也会泄密

Summary

IT之家 11 月 21 日消息,科技媒体 Ars Technica 今天(11 月 21 日)发布博文,报道称安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪“诱饵”的请求, 发现 AI 服务链存在黑客窃取提示词、转售商泄露数据及未遵守隐私设置等问题。 研究人员故意把一批可追踪的“测试秘密”(并非从真实用户渠道收集)发给 AI,观察之后有没有其他程序或人拿它们去访问系统,从而判断数据是否流出、可能从哪条服务链流出。 调查发现,至少三家服务商出现遭入侵迹象,攻击者利用窃取的诱饵密钥发起数万次云服务接口调用,尝试寻找更多凭证、开通服务并维持访问权限。部分密钥在提交后数小时内便被使用,甚至有请求在模型运行前已遭拒绝,其中的密钥仍被盗走。 风险还来自层层转手的服务链。许多 AI 应用通过中间商分配请求,内容可能经过多个平台,并在各环节解密处理。研究还发现,部分转售商记录并外传请求;一些标记“零数据保留”或“禁止数据收集”的请求,其私密网址仍在数日后遭到抓取。 Moore 建议,敏感业务可考虑本地部署;无法自建的用户应尽量直接选择可信服务商,并明确指定上游提供方。 IT之家附上参考地址 Three breaches, endless leaks: Your AI supply chain needs canaries

Original text(via IT之家)

近 200 万条请求揭开 AI 隐私漏洞:“零数据保留”也会泄密

IT之家 11 月 21 日消息,科技媒体 Ars Technica 今天(11 月 21 日)发布博文,报道称安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪“诱饵”的请求,发现 AI 服务链存在黑客窃取提示词、转售商泄露数据及未遵守隐私设置等问题。

研究人员故意把一批可追踪的“测试秘密”(并非从真实用户渠道收集)发给 AI,观察之后有没有其他程序或人拿它们去访问系统,从而判断数据是否流出、可能从哪条服务链流出。

调查发现,至少三家服务商出现遭入侵迹象,攻击者利用窃取的诱饵密钥发起数万次云服务接口调用,尝试寻找更多凭证、开通服务并维持访问权限。部分密钥在提交后数小时内便被使用,甚至有请求在模型运行前已遭拒绝,其中的密钥仍被盗走。

风险还来自层层转手的服务链。许多 AI 应用通过中间商分配请求,内容可能经过多个平台,并在各环节解密处理。研究还发现,部分转售商记录并外传请求;一些标记“零数据保留”或“禁止数据收集”的请求,其私密网址仍在数日后遭到抓取。

Moore 建议,敏感业务可考虑本地部署;无法自建的用户应尽量直接选择可信服务商,并明确指定上游提供方。

  • Three breaches, endless leaks: Your AI supply chain needs canaries

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

相关文章

  • Gartner 预测:到 2030 年全球将因 AI 净增加约 170 万个工作岗位
  • Axelera AI 公布数据中心级 AIPU 芯片 Titania 架构,2027Q3 投产
  • 开发者 AI 自制工具追踪室内异响,将声源锁定至约 40 厘米范围
  • iOS 27.3 将补齐苹果 Siri AI 生态拼图:看懂你的健康信息,覆盖 92 种数据
  • 美国一法学教授尝试利用 Anthropic 更新讲义页码,反被 AI 删除全年课堂笔记
  • Shizuku AI 公布全双工模型 Shizuku-Duplex,为 AI 伴侣开发奠基

The text above was extracted automatically from the source page and may miss images, tables or code blocks. The original is authoritative.

Published by IT之家
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗