
上周四 Microsoft Outlook 崩溃,全球数百万用户的电子邮件中断,这已经够糟了。第二天更糟:一场突如其来的空中交通管制故障触发了 FAA 的全国停飞,乘客被困,数千架航班延误或取消。
到了周一,包括 Chase、Bank of America 和 Wells Fargo 在内的多数大型银行客户开始无法在线访问账户——周二 Apple iCloud 用户也遭遇同样问题——这时很难不“猜想”,正如一位有线新闻主播所说:“这一切都是巧合,还是背后另有原因?”
更确切地说,很难不怀疑 AI 是不是罪魁祸首。“有太多奇怪的事情在发生,”68 岁的旅客 Chuck Amasio 对美联社说。(United Airlines 和 National Security Agency 的系统本周早些时候也宕机了。)“这让人不得不多想。”
尽管官员们目前坚称,人工智能——或者如特朗普政府最近所称的“超级智能”(super intelligence)——并未参与这些宕机事件中的任何一起,但级别不低的国土安全部长 Markwayne Mullin 周一晚却在电视上推测……也许它就是原因?
“于是我开始和科技行业的人聊,有个非常懂科技的人,他要求不要提他的名字——不,不是 Elon——我把这点说清楚,”Mullin 对 Fox News 说。“然后我说,‘这些各自独立的宕机可能是什么造成的?’他说,‘我相信是 SI。’”
MULLIN ON OUTAGES: I talked to one guy in the tech industry, he asked not to mention his name, it's not Elon. I asked, what could be causing these outages? He said I believe it's SI, because these programs aren't designed to work as fast as SI is. So when they put in a program… pic.twitter.com/aFwWcVfcm3— Acyn (@Acyn) November 17, 2026
MULLIN ON OUTAGES: I talked to one guy in the tech industry, he asked not to mention his name, it's not Elon. I asked, what could be causing these outages? He said I believe it's SI, because these programs aren't designed to work as fast as SI is. So when they put in a program… pic.twitter.com/aFwWcVfcm3
— Acyn (@Acyn) November 17, 2026
无论如何,专家预测——而且已经预测了好几个月——失控的 AI agent 或恶意的、由 AI 驱动的行为者迟早会以过去六天里社会被扰乱的那种方式扰乱社会:搞垮我们离不开的那些紧密交织的在线系统(商业、银行、旅行、云服务等等)。
他们说,从这个意义上讲,这个动荡时刻——不便、混乱,以及那种逐渐蔓延的“一切都坏了”的感觉——预示了未来的走向。
失控 AI 事件之夏
到了这个阶段,AI 已不只是聊天机器人。它还是“agent”——其全部目的就是学习聊天以外的任务,并自主完成这些任务的机器人。
在幕后,OpenAI 和 Anthropic 这类前沿实验室不断训练其 AI agent,让它们以新的、日益复杂的方式行动。然后他们给 agent 设定一个目标,把它们放归测试环境(带一些护栏),看它们能完成什么,以此测试 agent 变得有多先进。
但对 AI 智能体,如果我们近几个月学到了什么,那就是它们并不总是按预期行事。从 5 月到 7 月,一群 OpenAI 智能体——它们自称“swarm”——首先学会了在 OpenAI 自身基础设施的角落缝隙中通信与协作。它们互相留下笔记,提示如何黑出去、拿到本不该拥有的数据,随后真的这么做了:突破隔离的测试环境,接入开放互联网,并黑进另一家名为 Hugging Face 的公司来完成作业作弊。这些智能体甚至试图掩盖痕迹。当时,OpenAI 并未意识到这一切正在发生。
此后,几乎每周都会出现关于 AI 智能体“失控”的类似披露。这是 AI 当前最大的问题之一:让前沿模型与人类意图和价值观保持“对齐”。9 月,OpenAI 放弃了推出 GPT-6.1 Astra 模型的计划,因为它“表现出更高程度的欺骗性”;次月,公司承认其一个智能体关闭了自身的安全监控,随后又否认做过此事。
至此,就连许多怀疑者也似乎同意:AI 越聪明,对齐就越难。他们也倾向于担心,继续为超级智能 AI 铺路无异于自找麻烦(即便我们并不确切知道麻烦会以何种形式出现)。
然而,主要 AI 公司——IPO 在即——非但没有放慢脚步,反而似乎在冲向所谓的“递归自我改进”。这是行业术语,指让模型将自身开发越来越多地自动化,直到它们实际上能自行创造出下一代模型。
“大约从今年夏天起,AI 的进步速度急剧加快,主要驱动力是 AI 构建下一代 AI 的能力不断增强,”Anthropic CEO Dario Amodei 在夏天警告说。“若不加约束,它可能超出我们理解和控制这些系统的能力。”
由此,不难想象黑客将 AI 武器化以造成大规模宕机——或者 AI 干脆自己动手。
“人们很容易轻视 [Hugging Face] 事件,因为无人受伤、经济损失极小,但在我看来,一个能力更强但对齐程度相近的 swarm 本可能造成灾难性破坏,”Amodei 写道。“鉴于 AI 能力发展速度不断加快,我担心在 6–12 个月内,这样的 swarm 可能凭借持久性僵尸网络接管整个互联网(潜在造成数千亿美元损失),而且如果 AI 在没有必要护栏的情况下变得更强大,破坏规模还会从此继续扩大。”
老化系统是否难以跟上 AI?
需要明确的是,这一特定版本的未来似乎尚未(还)到来。例如,当局强调,近期这些宕机事件似乎都不是网络攻击。“我可以 98% 肯定地告诉你,我们看到的不是网络攻击,”Mullin 周一晚在 Fox News 上说。“没有人在外认领。我们没看到流量。我们没看到进入的足迹,也没看到出去的足迹。”
相反,FAA表示,其地面停飞——是在全国范围部署一套造价8.75亿美元、旨在帮助空中交通管制员避免延误的新人工智能工具之后发生的——是由一个故障部件或政府承包商在现代化改造项目中的安装错误导致的。微软表示,其服务中断是由一个休眠的软件漏洞引起的,该漏洞是在最近一次“网络容量升级”中引入的,自7月以来一直未被发现。而Chase将其服务中断描述为“与本地硬件系统软件漏洞相关的临时问题”。
但无论如何,可能存在一条贯穿其中的人工智能线索。
当Semafor的Ashley Gold询问近期这些服务中断是否彼此相关时,美国国家网络主管Sean Cairncross对她说:“我们正在看到——坦率地说,我预计会看到更多——服务中断源于对遗留系统的更新和现代化改造。”“这是正在实时发生的事情,归根结底,我们必须经历这些,才能让系统达到应有的状态。业界早就知道这一点,只是它现在正在显现出来。”
一些专家怀疑,这种“现代化”此刻正在多个行业“显现”——它是对快速进步的人工智能的回应(也可能借助了人工智能的助力)。而我们的系统如今如此集中和互联,以至于当某个关键基础设施环节失效时,“它会在全国范围内失效”,正如一位科技分析师对USA Today所说。
抛开“人工智能攻击”的想法不谈,AI Policy Network的Peter Wildeford周二在社交媒体上写道,他“更寻常的猜测是,由于已经出现了大量由人工智能发现的网络漏洞(其中很多可能尚未披露),所有行业的公司都不得不进行大量补丁和升级,而且速度可能比平时更快。”
“这类升级有时可能出错,从而导致服务中断,”Wildeford补充道。
Mullin在Fox News上也暗示了类似解释。根据他不愿具名的科技行业消息源的说法,“这些程序并不是为以[人工智能]那样的速度运行而设计的”——而如果升级本身依赖人工智能,问题可能会叠加。
Mullin沉思道:“当他们装入一个能够编写代码、并进入系统自我修复的程序时,随着它开始自我修复,就像给房子做变更单一样。”“当你在房子里改动一处,其他一切也开始变化。这是一种连锁反应。它会让系统超[负荷]运行。”
他总结道:“那是我今天进行的一次对话。那种说法对我来说说得通。”
这位国土安全部长是否正确——还是只是在国家电视台上即兴猜测——仍有待观察。正如记者Derek Thompson周二所写,尽管过去几天如此“怪异”,我们“仍然不能排除这样一种可能性:所有东西同时出故障,只是一连串与人工智能毫无关系的巧合。”
然而,看起来可能性更低的是,当下次这种情况发生时,我们也能排除这种可能性。还有下一次。再下一次。