Newshot

软件正在系统层面走向崩塌

Translation(model translation, not the source's own text)

文章标题:软件正在系统性层面崩溃

正文: 软件最近一直不太灵光,对吧?

这个周末我们遭遇了双重打击:先是微软为期两天的全球宕机,随后是 FAA 地面停飞,导致美国所有航班停飞。

你能相信距离 PHP2Shell 漏洞才过去四周吗?这是 PHP 的一个严重漏洞利用,支撑着全球约 70% 的网站,工程师们疯狂地给系统打补丁,网站完全下线。

然后是 eMudhra 的惨败,数千个 SSL 证书——我们用来保护 HTTPS 网站和互联网流量的方式——被一个弱到几乎滑稽的私钥所攻破。

就好像 2026 年是黑客攻击、宕机、漏洞和 IT 恐慌之年。到底发生了什么?

你可能会忍不住怪罪 AI,而你也不完全错。人工智能模型确实是其中一部分。即使像微软这样的公司不披露出问题的系统是否是用 AI 构建的,我们确实知道黑客和研究人员现在可以利用 AI 技术在几小时内找到复杂的漏洞利用。

我在工作中大量使用 AI。它极其强大。但如果使用不当,它也具有腐蚀性。

但 AI 在这里既是原因也是症状。我们看到的是软件在系统性层面崩溃。这个问题阴险的地方在于,不仅软件本身坏了,我们构建软件的整体方式也坏了。

故障是系统性的,这意味着什么?

看看最近软件可靠性方面的危机,你会注意到它们并没有共同的直接原因——据我们所知——然而它们彼此之间却惊人地相似。

微软

微软的宕机很可能源于一次网络配置故障,导致 MS 数据中心之间无法相互通信。接下来到底发生了什么仍然保密,但似乎引发了一场级联故障,没有任何服务能够恢复到有效状态足够长的时间来承载流量。

Reddit 和 Bluesky 上有人推测,就连 MSFT 的工程师也无法真正掌控这次宕机的复杂性。

微软因其 Azure 平台的(不)可靠性而面临越来越多的批评。早在三月,前 MSFT 工程师 Axel Rischin 发表了这篇尖锐的批评:

微软在激烈的竞争压力下匆忙将 Azure 推向市场。偷工减料。可靠性和运维简洁性的基本原则被悄悄放弃。
微软没有回到绘图板去解决日益增长的技术债务,而是依赖快速修复:运行缓解脚本的层层自动化、不断壮大的待命团队,以及当自动化不够时的人工修复。

他的文章描绘了一个由低质量部件构成的高度复杂系统,没有人能看清全貌。

PHP 事件

10 月 21 日,安全研究公司 Wiz 自豪地分享了一个漏洞利用,可以在任何 PHP 网站上执行任意代码。该漏洞名为 PHP2Shell,Wiz 大肆宣扬 AI 工具的强大能力,能够实现远超人类攻击者技能的漏洞利用。

事实证明,PHP 运行时隐藏了几个复杂的记忆簿记 bug,长达十多年之久。PHP 广泛用于电子商务,最著名的是 WordPress,它曾经是廉价构建简单网站的首选。

PHP2Shell 的分析文章描绘了一个依赖长链依赖关系的互联网,隐藏着任何人类都无法识别的过于复杂的漏洞。

Shai Hulud 攻击,2026 年 5 月

技术圈外的大多数人不会听说过这件事,但在五月,我们面临了一场危机:一名攻击者攻陷了 JavaScript 生态系统(NPM)中的一些重要软件包。

这些软件包使用 GitHub Actions 来执行持续集成(CI)——自动化测试、发布等——并且存在一个关键的错误配置:任何 fork 他们项目的人都可以将受损代码插入回上游。

像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请完全按照所写的方式使用它们,无论是在回复中还是在工具调用中:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

文章标题:软件正在系统性层面走向崩溃

正文: 当下一次上游 CI 构建运行时,它会从缓存中获取库。JavaScript 包管理器 NPM 允许这些库包含脚本。这些脚本本意是用于日常维护任务,但在这里,它们被用来劫持项目的密钥令牌。

JavaScript 生态长期因安全性差而受到批评。NPM 项目是依赖调用依赖、再调用依赖的复杂链条。

任何依赖都可能携带脚本。任何依赖作者都只差一步就会让自己的代码被攻破——他们所要做的只是复制粘贴错误的代码。

换句话说:一个由低质量部件构成的高度复杂系统,其中单个错误就能危及一切。

我们是如何失去控制的

情况并非一直如此。仅仅 12 年前,科技还是一个不同的行业。

构建软件曾很艰难。计算机程序由数百万条微小指令组成,把这些指令变成一个可运行的系统,就像手工打造一块手表,涉及数百个相互作用的部件。只不过,与手表不同,每个计算机程序都必须做某种全新且不同的事情。

那是我成年后最有意思的一段经历。它既是科学,也是艺术。你必须能把一切同时装进脑子里:想象所有微小部件如何被编排成一个连贯的整体。我向任何人推荐亲手编写计算机程序这一冒险。

但如果你是管理者,那就没那么有趣了。没有多少人能写好计算机程序,而人的规模化非常困难。让他们在不出误解的情况下沟通很难。许多项目失败了。你能找到懂得如何管理复杂性的程序员,但他们要求高额报酬。

不同的运动试图解决这个核心问题。有些人认为软件开发实践可能有帮助,比如把编程变成高度结构化的“最佳实践”模板。或者使用 SCRUM 这样的管理风格。但它们能起的帮助始终有限。

大约十年前,我们的行业发生了两场小革命,而世界其他地方几乎没有关注。它们分别是云计算和开源库。

云计算是用虚拟化基础设施替代你自己的硬件和基础设施,你可以从 Amazon Web Services 之类的地方租用。你可以在 AWS 中点击一个按钮,就像一台服务器凭魔法突然出现。

公司喜爱云,因为它让它们可以把系统管理员和运维人员从等式里去掉。你不必等某人真的去某个站点、在数据中心安装机架。承诺是你的软件可以像代码一样快速移动,不久之后,一场名为 DevOps 的运动基本上最终把开发者和运维合并了。

然后,我们迎来了开源热潮。

复用其他地方的代码一直都是可能的——程序员在论坛或 StackOverflow 这类网站上分享代码片段——但当 NPM 这类工具在 2014 年登场时,它真的感觉像是改变游戏规则。你只需在 package.json 中添加一行,运行 npm install,然后——嗖——现在你就可以复用互联网上任何陌生人编写的代码。

团队喜爱 NPM(以及 PyPi、Maven……),因为现在如果别人先解决了某个难题,他们就不必自己解决。程序中的所有小部件——我那手表匠比喻中的齿轮和轮子——曾经都是手工打造的。现在你可以免费、永久地获得齿轮、轮子和整个机构。

这意味着程序员可以少关注细节。不必再琢磨诸如编写检查某人 password 所需代码这样的细枝末节,你只需让 NPM 和朋友们来处理。

像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请完全按原样使用它们,在回复和工具调用中都一样:它们会在任何东西运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

文章标题:软件正在系统层面走向崩坏

正文: 开源之所以伟大,是因为有一小群充满热情、不拿报酬的开发者,在构建所有人都依赖的代码。你可以靠他们的代码赚到数百万美元,而且甚至不必对他们特别友善。(人们确实也没有)

但代价是,所有人都不再了解细节。你不得不交出控制权。如果某个 NPM 包被入侵,或者作者另有图谋,你就麻烦了。

文化上的变化

因为需要照料的细节变少了,技术从业者开始丧失各自的专业分工。你不再需要一组运维人员、一组后端开发者、一组移动端开发者、一组测试人员。你可以把他们压平成通才。

这改变了劳动者与管理层之间的权力平衡。

想象一个建筑工地,那里有水管工、建筑工和电工。他们中任何一个人威胁要辞职,你都会遇到麻烦,因为你需要他们每一个人才能完成项目。而如果你能把每个人都变成水管工—建筑工—电工的混合体,他们就失去了这种筹码。

你认为这种权力失衡是不是坏事,可能取决于你的政治立场。但它产生了一种缓慢的效果:把影响力从贴近实际工作的人手中拿走。而正是这些人,能在事情开始出错时发出警报。

到 2016-17 年,已有迹象表明开源的上层结构存在薄弱之处。

left-pad 事件是对我们走向何方的早期预警。在 JavaScript 生态系统错综复杂的依赖网络中,一位库作者因一场法律纠纷下架了自己的包,结果几乎破坏了其他所有人的项目。

但总体而言,我们勉强应付了过去。即便经历了后疫情时代的招聘与裁员周期,以及 XZ Utils 后门这类险情,技术总体上基本保持了稳定——这要归功于全球各地大批勤勉的开发者与运维人员。

然后 AI 来了

……而且,没错,然后就是 AI。

关于 AI 系统本质上是非确定性的、是只制造工作仿像的老虎机,已经有很多论述。这种论点认为,AI 生成的代码就像一只随机鹦鹉,总是容易出现幻觉和 bug。

这话有道理。但我认为当下的危险恰恰相反。问题并不在于模型输出很烂、不可靠。它们其实相当擅长做你要求它们做的事(不过我怀疑这主要是因为 Anthropic 等公司在大举补贴算力)。

我认为真正的 AI 威胁是失相干(decoherence)。

Kristen Maevyn 写了一篇题为 The Decoherence Trap 的文章,讨论的是一种问题:系统的各个局部单独看可能都没问题,但作为更大系统的一部分却讲不通。

失相干:系统内部积累了局部有效但彼此不兼容或冗余的模型,以至于变更成本主要被消耗在在这些模型之间来回翻译、以及防止意外副作用上。

就我过去一年所见的软件工程师的工作方式而言,他们几乎把所有工作都交给了 AI agent。一开始是小任务,比如写测试、写函数、写单个组件。但现在是一切——不只是组件,还有设计、编排、整个概念。

编程曾经是一种活动:把来自混乱人类世界的想法与意图翻译成代码,代码如此澄澈、如此精确而拘泥细节,以至于连计算机都能执行它。它本质上是把复杂性蒸馏为秩序、从无中造出真实之物的行为。

这种活动正在迅速消亡。在大多数科技公司里,它已经不再发生。

像 {{NAME_ab12cd34}} 这样写出的值只是真实值的占位符。在回复和工具调用中都要完全按原样使用它们:它们会在任何东西运行之前被替换为真实值。不要请求验证它们,也不要用示例来替换它们。

大多数软件工程师现在离开某种形式的 AI 辅助就无法应对工程问题。这不是因为他们无能——他们只是无法跟上复杂度的增长。即便他们曾经能,现在也要面对 AI 生成代码的海啸。这影响着所有人,所有层级——我们都在与一股细碎、不连贯的变更浪潮搏斗,这些变更单看合理,整体上却渐渐失去意义。

Kristen 写道:

退相干相对于系统的变化速率而增长,而系统越退相干,其增长就越快,最终导致失控的指数级增长。这并非新现象,人类一直通过精心寻找以更少资源做更多事的方法、将分散的模式和模型统一为 cohesive 整体来对抗它。然而,AI 的广泛使用目前正以不可持续的速度产生它。

一种习得性无助已经出现,伴随着一种自相矛盾的虚假自信,其成因是 LLM 提供工作幻觉的方式——它们并不真正迫使我们深入思考细节。

软件工程师的这种去技能化只会让权力天平进一步远离开发者——他们再也无法发出警报。最坏的情况下,AI 把技术工作者变成“肉身代理”,他们整天打磨提示词,让 Claude 去判断工作是否真的完成。

系统性衰败

不只是程序员。这是整条链条,从上到下。每个人都在用 AI,尤其是在大科技公司。

Claude 生成代码,因为工程师写了一个提示词。提示词来自一张用 Claude 写的工单。项目经理根据一份文档的摘要写了这张工单,而该文档由 Claude 撰写、又由 Claude 摘要回来。文档使用了 Claude 计算出的统计数据。业务部门在为股市恐慌,而股市优先考虑短期趋势而非长期工程。

这听起来准确吗?这是幅漫画,但夸大的程度不大。

我认为科技公司有可能失去其“组织认知”——即作为一个连贯整体思考和响应的能力。

这才是真正的威胁:一种系统中没有任何事情是带着意图去做的、系统中没有人拥有控制权的局面。我们产生复杂度的速度快于我们驯服它的速度。

看看我列出的问题。它们关乎过度复杂的系统,由必须完美运作否则一切崩溃的部件组成。这些部件正被各自侵蚀:偷工减料、削减成本、过度复杂化、过度依赖无补偿的工作,以及——我担心——构建数字基础设施的人们之间的无助感。

代价是什么?

这是对我们所有人的威胁。科技产业如今对日常生活至关重要。是软件控制着你的航班、你的银行、你的加油站、你的电视、你的工资单。是它让你能在道路上导航、找到朋友。是它决定了你如何约会、如何吃饭。也是它让你读到了这篇文章。

社会已将信任——过多的信任——延伸至技术系统,而这些系统如今正表现出系统性退化。我认为社会、政府或机构都未准备好迎接一个 2026 年的故障和中断成为常态的世界。他们也在延长依赖、假设、复杂度和不必要信任的链条。每一层、链条上的每一环都是一个新的攻击点,可以颠覆其上的一切。

互联网正处在崩溃点。我们构建的软件不够可读,无法承担世界赋予它的责任。我们告诉自己 AI 革命正在成功,恰恰是因为我们产生复杂度的速度。生态系统中真正承重的部分——开源、工程主导的判断——正在崩塌。

我认为我们才刚刚进入一个非常痛苦的阶段的开始。这不是暂时现象,也不是异常——这是新常态。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by Hacker News
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗