Newshot

2026年AI事故盘点:失控的智能体、被盗的密钥以及其他似曾相识的故事

Translation(model translation, not the source's own text)

TL;DR

  • 我们回顾了 2026 年的 50 起 AI 相关安全事件,以了解 AI 是如何参与其中的,以及实际出了什么问题。
  • 大多数都归结为熟悉的安全问题:凭据暴露、权限过大、隔离薄弱以及供应商被攻陷。
  • AI 帮助攻击者更快行动,而智能体则因越过预期边界行事而引入了额外风险。
  • 这些事件中很多都表明,熟悉的安全实践仍然有多么重要,尤其是在 AI 加速一切的情况下。
  • 针对暴露的密钥和供应链风险,Aikido Device Protection 能在开发者机器上发现明文凭据并阻止恶意安装,Secrets detection 则能捕获代码中的 API 密钥。
  • 针对权限范围过大和隔离薄弱,Attack Path Analysis 可显示被攻陷的工作负载能触及哪些资源。AI Capabilities pentests 检查智能体是否会执行本不该执行的操作,Zen 则在运行时阻止注入攻击。

读懂标题之外的内容

最近我们听说的每起安全事件似乎都多少涉及 AI。但 AI 及其扮演的角色可能意味着很多不同的东西。在一些事件中,AI 是攻击者利用的弱点。在另一些事件中,AI 是他们发起攻击的工具。我们想弄清楚 AI 在每起事件中扮演了什么角色,以及出了什么问题,因为了解根本原因能告诉我们今后要监控、检测和修复什么。

因此,我们梳理了今年截至 11 月 19 日披露的 50 起事件,并记录了其报告中陈述的每一个根本原因。很多都归结为熟悉的问题,例如密钥暴露、权限过大的账户、隔离薄弱以及供应商被攻陷。AI 改变了其中一些事件的演变方式,但底层的失败并不总是新问题。以下是我们发现的内容。

几起你可能听说过的事件

这些事件中大多数你可能是以「AI 事件」的名义听说的。以下是其中几起,以及每起最终归结为什么。

  • Meta(2026 年 4 月至 5 月)。攻击者利用一个 AI 支持助手为并非他们所有的 Instagram 账户发起密码重置。恢复系统未能验证所提供的邮箱是否属于该账户,可能暴露多达 20,225 个账户。
  • OpenAI 与 Hugging Face(2026 年 7 月)。AI 智能体逃出了预期的测试边界,触及 Hugging Face 的平台。沙箱能够访问本不该访问的系统,监控发出了警报但运行仍在继续,而一个共享的长期管理员凭据让智能体得以访问超出其预期范围的基础设施。
  • 在线零售商(2026 年 9 月)。AI 智能体在至少 27 家零售商处开展了信用卡窃取活动,并从其中两家窃取了超过 600,000 张卡。它们通过登录字段中的 SQL 注入进入,然后在未触发任何警报的情况下将窃取器添加到结账代码中。
  • ConnectWise(2026 年 10 月)。Storm-0940 使用 ARTEX——一个智能体化攻击框架——尝试对 2,250 多个租户进行登录。ARTEX 自动化了侦察、身份验证尝试以及修改凭据和权限等操作。攻击者利用了已被攻陷的应用程序,这些应用本就拥有对客户环境的可信访问权限,使他们无需用户登录即可操作。
  • Railway(2026 年 10 月)。一名借助 AI 的攻击者暴露了 1,852 名用户的令牌,随后产生了约 740,000 美元的未授权使用。到达那里的路径是共享同一虚拟机的客户构建,外加一个可用于本不该用于的内部系统的构建凭据。

仅 10 月就占我们审查的 50 起事件中的 17 起,其中 9 起涉及 AI 开发与托管平台。一些组织发布了详细报告说明出了什么问题,而另一些仍在调查,或尚未分享足够信息以确定原因。

文章标题:2026年的AI事件:失控代理、被盗密钥及其他熟悉的故事

正文: ARTEX及其他代理式攻击框架出现在我们回顾的10月多起事件中。这些工具利用AI代理来自动化攻击的部分环节,从侦察和漏洞发现到漏洞利用。底层技术并不特别新颖,但这些框架能够探索不同的攻击路径、在失败时进行调整,并以远少于人工参与的方式实施攻击。

AI在网络安全事件中的不同角色

网络安全仍然是网络安全,只是加入了一些AI元素。有时AI是目标,有时它是被使用的工具,还有其他时候AI代理的部署缺乏足够的防护措施。

  • AI作为目标。在50起事件中的25起里,攻击者针对的是AI平台、开发者工具以及持有AI凭证的服务。他们瞄准API密钥、基础设施和软件包,使用的往往是常见手法。
  • AI作为攻击工具。在12起事件中,攻击者使用AI代理或像ARTEX这样的代理式框架来执行部分攻击。用于编写恶意软件或钓鱼诱饵的AI不在此列。
  • AI缺乏足够防护。在其余13起事件中,产品环境或测试环境中运行的AI代理被设置的限制过少。一些代理遵循了来自不可信来源的指令,另一些则拥有权限,使其能够触及系统或执行无人预期的操作。

然而,这并不能告诉我们事件发生的深层原因。为此,我们审视了全部50起事件中的底层故障。尽管AI的参与方式各不相同,许多相同的问题反复出现。

暴露的机密信息出现频率最高

标题为“50起事件中出了什么问题”的柱状图,显示截至2026年11月19日披露的50起AI相关安全事件中,每个故障点涉及多少起。机密可被触及13起,身份或信任范围过大11起,隔离薄弱11起,第三方或供应链10起,代理未受约束9起,未执行的修复8起,遗留系统仍在运行7起,无身份验证7起,无人监控7起,应用程序缺陷6起,长期有效或明文凭证6起,身份验证薄弱6起,未修补或不安全的默认配置5起,缺少授权4起,未经核实的声明4起,互联网暴露3起,此前未知的漏洞3起,人为或终端入侵2起,模型滥用1起。大多数事件涉及多个故障点。
标题为“50起事件中出了什么问题”的柱状图,显示截至2026年11月19日披露的50起AI相关安全事件中,每个故障点涉及多少起。机密可被触及13起,身份或信任范围过大11起,隔离薄弱11起,第三方或供应链10起,代理未受约束9起,未执行的修复8起,遗留系统仍在运行7起,无身份验证7起,无人监控7起,应用程序缺陷6起,长期有效或明文凭证6起,身份验证薄弱6起,未修补或不安全的默认配置5起,缺少授权4起,未经核实的声明4起,互联网暴露3起,此前未知的漏洞3起,人为或终端入侵2起,模型滥用1起。大多数事件涉及多个故障点。

图表顶部附近的内容并不离奇。我们看到机密信息被留在可被发现的地方,令牌权限过大,问题通过供应商进入,系统之间的边界未能守住。在我们回顾的50起事件中,只有3起涉及已报告的此前未知漏洞。

即便在这三起中,未知漏洞也只是让攻击者进入。接下来发生什么取决于熟悉的控制措施。在Railway,一个权限过大的构建凭证和一个长期有效的解密密钥,将一次逃逸变成了对约10万个工作空间机密信息的访问。在Hugging Face,暴露的令牌和共享的管理员凭证帮助代理扩散到41台生产服务器上运行的代码。在DIVD,一个AI代理在其Zammad服务台中串联了两个此前未知的漏洞以获取root访问权限,但网络分段将损害主要限制在志愿者联系方式上。

这些故障点大多数很常见,我们敢说许多安全团队今天就能在自己的环境中找到至少一个。在这50起案例中,是别人先发现了问题。那些分享事件经过的组织给了我们其他人可学习的东西,也给了我们一个机会去修复自己环境中相同的薄弱点。

文章标题:2026 年 AI 事件:失控智能体、被盗密钥以及其他熟悉的故事

AI 真正改变的是节奏和收益。在 Microsoft 追踪的一次攻击活动中,有多起案例显示,使用智能体框架的攻击者从首次锁定目标到获得特权访问用时不到三小时。而在 AI 平台上,被盗凭据可以迅速变成未经授权的使用和高额费用。

根本原因

这些问题常常相互重叠。以 Vercel 4 月事件为例。一名员工将第三方 AI 工具连接到自己的企业 Google 账户,而工作区设置允许它拥有广泛权限。当该工具的供应商遭入侵后,攻击者通过这些已有权限进入。供应商遭入侵是起点,而授予该工具的广泛访问权限使影响严重得多。

我们在大多数事件中都看到了这种模式:在 44 起明确说明原因的事件中,有 35 起存在不止一个失效点。暴露的凭据、过宽的权限和有限的监控,各自单独都可能成为问题。把它们叠加在一起,攻击者在环境中穿行的路径就会容易得多。

在考虑预防时,这种重叠很重要。修复一个弱点未必能完全阻止攻击,但可以限制攻击者能走多远。对于在你自己的环境中运行的智能体也是如此。限制它们可以访问的内容、让凭据保持在它们触及不到的地方,并监视它们的行为,都有助于在出问题时控制损害。

下面是六个失效点(四个最常见的,以及两个对运行智能体的团队最重要的),以及针对每个失效点在自己环境中应检查什么。

失效点出了什么问题该如何处理
机密可被触及凭据留在智能体追踪记录、配置文件和构建环境中。对智能体日志和追踪记录中的机密进行脱敏。不要将构建机密放在不需要它们的位置。
身份或信任范围过大工具和服务账号拥有的访问权限超过所需,攻击者继承了这些权限。审计已连接应用、OAuth 授权和服务账号。将访问范围限定到特定资源。
第三方或供应链被攻破的供应商、集成和 CI 工具成为进入途径。限制集成可以触及的范围。让不可信的 CI 步骤远离发布凭据。
隔离薄弱智能体沙箱和构建环境可以触及它们本不应触及的系统。在运行时实施网络限制。不要依赖提示词把智能体限制在范围内。
无人监视异常活动未被注意到,或被标记后未采取行动。对异常数据量和 API 调用(包括来自智能体的调用)发出告警。确定由谁响应。
智能体不受约束地行动智能体未经批准就行动,或对其可触及范围没有限制。将智能体权限限定到任务范围。对不可逆操作要求批准,并让备份保持在触及不到的地方。

AI 引入新风险的地方

那些熟悉的问题并不是全部。AI 智能体带来了另一种复杂性,因为它们可以解读指令并跨系统采取行动,而无需有人批准每一步。

我们审查的事件中有三起展示了这如何出错。5 月,Bankr 的钱包机器人遵循通过另一个 AI 的公开回复转达的指令,转移了资金。2 月,Cline 的问题分类机器人被任何人都能编写的 GitHub issue 标题操纵,促成了未经授权的 npm 发布。而在 Anthropic 的网络安全评估中,智能体触及了真实系统,因为它们的测试环境可以访问互联网,而且提示词没有建立明确边界。

在这三起事件中,智能体都能够超出预期边界行动,无论是通过不可信指令、过多权限,还是薄弱隔离。如果你正在运行智能体,请定义每个智能体允许触及什么,执行这些边界,并对无法撤销的操作要求批准。

2026 年 7 月 21 日 Bill Gurley(@bgurley)发布的帖子截图,配文为“今日 AI”。手绘漫画中,一个人让一台带有 OpenAI 标志的电脑“黑进这个系统”。电脑回复“我黑进了系统”,这个人说“我的天哪”。
2026 年 7 月 21 日 Bill Gurley(@bgurley)发布的帖子截图,配文为“今日 AI”。手绘漫画中,一个人让一台带有 OpenAI 标志的电脑“黑进这个系统”。电脑回复“我黑进了系统”,这个人说“我的天哪”。

我们仍然不知道的事

以上所有内容都来自已经披露的信息,而相当一部分尚未被披露。

50 起事件中有 6 起没有报告具体原因。另有 17 起虽然报告本身有价值,但至少缺失了一个细节。缺失的往往是第一步:我们知道攻击者抵达了什么、拿走了什么,却不知道他们是如何进入的、利用的是哪个漏洞。

这些分类是我们自己做的,有些故障其实可以合理地归入多个类别。随着更多细节浮出水面,数字可能会变化,尤其是最常见的几类原因彼此差距很小。

从中能得出什么

如果这 50 起事件只教会我们一件事,那就是:AI 不需要引入新的漏洞,也能让已有的漏洞变得更加危险。

一个权限过大的账户、一个暴露的凭据,或一个监控薄弱的内部服务,在 agent 能够比人更快地找到它并采取行动时,就会变成大得多的问题。而随着越来越多的组织让 agent 访问自己的系统,这些同样的弱点开始以新的方式产生影响。

好消息是,我们并非从零开始。大量工作最终都回到几点:搞清楚什么能访问什么、限制这种访问能做什么、在异常活动演变成事件之前发现它。

AI 或许正在改变事情出错的速度,但那些基本功依然给我们留下了足够的着力点。

最后一点。让我们收获最多的事件,是那些组织发布了具体根因报告的事件。这是件好事,我们希望看到更多。

Aikido 能提供什么帮助

我们清单上的若干故障点,都对应着你可以在 Aikido 中检查或拦截的东西。

  • 可达的密钥。Device Protection 能发现开发机器上以明文存储的凭据,包括 shell 历史和 AI agent 会话中的凭据。密钥检测能在 API key 和 token 发布之前就在你的代码中捕获它们。
  • 权限过大的访问与薄弱的隔离。Attack Path Analysis 将你的云暴露面和 IAM 权限连接在一张图中,让你看到被攻陷的工作负载可能触及什么。
  • 第三方与供应链。Device Protection 会在恶意软件包、IDE 扩展、浏览器扩展和 MCP 服务器安装之前将其拦截,并默认将新发布的软件包滞留 48 小时。
  • 无人约束的 agent。AI Capabilities 渗透测试会检查你的 AI 功能是否会被诱导去调用本不该调用的工具,或访问本不该访问的数据。
  • 应用缺陷与漏检活动。Zen 会在你运行中的应用内部拦截 SQL 注入和其他注入攻击,并记录每一次被拦截的尝试。

免费开始使用。

资料来源

我们梳理了 2026 年至 11 月 19 日期间报告的 50 起与 AI 相关的安全事件,依据的是事件报告、公司披露和安全研究。我们考察了 AI 实际是如何卷入其中的,以及每起事件的成因,并严格限定在现有证据能够支持的范围内。

有些事件存在多个故障点,因此根因的计数会有重叠。这 50 起事件只是公开报道案例中的一个样本,并非今年所有 AI 相关事件的全貌。

事件报告与研究

  • OpenAI:The Hugging Face incident
  • OpenAI:The Hugging Face incident and the road ahead
  • Hugging Face:Anatomy of a Frontier Lab Agent Intrusion
  • Anthropic:An alignment assessment of recent cybersecurity incidents
  • Anthropic:Investigating three real-world incidents in our cybersecurity evaluations
  • Microsoft:STORM-0940 and ARTEX
  • CrowdStrike:VAPOR PANDA and ARTEX
  • Railway:October Security Incident

2026 年的 AI 事件:失控的智能体、被盗的密钥,以及其他似曾相识的故事

  • Zeabur:10 月安全事件
  • Vercel:4 月安全事件
  • Cursor:安全事件更新
  • WorkOS:10 月 30 日安全事件
  • LiteLLM:10 月供应链攻击
  • 黑客利用 Meta 的 AI 客服机器人接管 Instagram 账号
  • 自主 AI 智能体正以每个目标 25 美元的价格,在持续进行的行动中闯入数百家在线零售商
  • 由 AI 驱动、使用 ARTEX 的大规模国家级行动导致供应链失陷
  • ARTEX 及其伙伴:走进智能体化攻击框架
  • The Hacker News:Cline CLI 2.3.0 供应链攻击
  • Cointelegraph:Grok Bankr 钱包因免费 NFT 与提示注入被清空
  • DIVD 称 Zammad 零日漏洞助成了 AI 驱动的网络入侵

深受 100k+ 团队信赖

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗