2026年11月17日,星期二 @ 晚上7:01 PST
🧠 我们需要聪明且真正在乎的人
很久以前我学到一件事,而且一次又一次被证实:世界是由聪明且真正在乎的人撑起来的。每当我了解到一个复杂系统如何运作——或者说,如何勉强运作——这个事实就会变得格外清晰。
我在 Stripe 工作时学到了很多关于各种银行和资金流动系统的知识,这些系统缺陷重重、脆弱不堪,程度令人恐惧。ACH 就是一个很好的例子。它是一个我们每天都依赖的复杂系统,却只是勉强够用。它老旧、满是缺陷,还背负着历史包袱。然而,尽管有所有这些问题的,ACH 通常运行良好,并且普遍被认为是安全、便宜且可靠的。
ACH 系统的技术现实与它在实践中的运作方式之间存在不匹配,原因只有一个:聪明且真正在乎的人。ACH 的每一个问题,都会被具备两样东西的人修复、打补丁、绕过、覆盖、绕路处理或手动处理:
- 对系统的深入了解
- 迫使系统运转起来的干劲和决心
这两样东西相互促进。你必须关心一个复杂系统,才会深入了解到足以弄清它如何运作;而当你对一个复杂系统如何运作了解很多时,你会更关心它,尤其是当这个系统是重要或关键基础设施时。
现在,你可以把上面的“ACH”替换成无数其他复杂系统——从庞大的基础设施到可有可无的应用——我所说的一切仍然成立,无论关于这些系统本身,还是关于让它们持续运转的人。世界靠这些系统运转,而它们依赖聪明且真正在乎的人。把这些人拿走,系统就会崩溃。
而我们开始看到的正是崩溃。一些最近的例子来自刚刚过去这一周左右:Microsoft 365、空中交通管制、United Airlines 的系统、NSA 的网络、许多大型银行、Apple 的系统等等。我们被告知,这些故障和问题彼此无关。它们不是网络攻击的结果。它们不是生成式 AI 的错。
我想,这取决于你怎么看。
我没有关于正在发生什么的内幕消息,但我处理复杂系统的经验告诉我,所有这些中断都有一个共同主线:聪明且真正在乎的人不够多。
那么,他们去哪儿了?
资本主义从来就没有特别善待聪明且真正在乎的人(或者说,对一般人也没多好……但我跑题了)。不过,资本主义即便不情愿,也承认要构建和维护服务于资本主义目标的复杂系统,离不开聪明且真正在乎的人。因此,由于他们的必要性和在许多情况下的稀缺性,这些人被容纳并纳入了体系。
然而现在,生成式 AI 来了。在掌权的人——领导层和管理层——看来,他们似乎能从机器那里获得相同或更好的价值(甚至更多产出!)。机器更便宜,工作更久,不请病假也不休假,不要求任何福利,而且从不反对糟糕的想法。
不干实际工作的人——不在一线的人——很难区分一个由聪明且真正在乎的人的干劲和决心撑着的、有缺陷的系统,与生成式 AI 提供的垃圾内容。对他们来说,一切都只是产出:能读的文字、能运行的代码、在他们眼里好看的像素。对他们来说全都一样,所以它来自哪里又有什么关系呢?
我们需要在乎事情的聪明人
这很重要,因为生成式 AI 并不聪明,也不在乎。看似智能的东西,是一种幻觉,由从公共资源中掠夺来的海量数据支撑,再通过权重把输出推向一种大致可取的形态。看似关心、关切和关注的东西,只是生成式 AI 在做它被设计来做的事:告诉你你想听的话。驱动 LLM 的数学和逻辑,和物理定律一样冰冷、无情、漠不关心。
在乎事情的聪明人会注意到东西。他们能把点连起来。他们能注意到哪里感觉不对。他们知道什么时候事情要脱轨,也知道怎样把事情拉回正轨。他们知道如何处理边缘情况。他们知道如何手动处理独特情况。他们知道什么才是正确的做法,也知道什么时候需要投入额外的努力或时间才能让事情发生。生成式 AI 在这些方面差得远,但这是把复杂系统粘在一起的东西。更多的提示词和更多的输出,并不能替代这一点。
不过,资本主义领导层很难把这一切内化。用生成式 AI 替换掉所有那些在乎事情的聪明人,对他们来说会是多大的解脱,多大的负担被卸下。如果生成式 AI 真能不负炒作,赢下资本主义就会容易得多,而领导层和管理层承受着巨大的压力去相信炒作是真的。
于是,很多在乎事情的聪明人被裁员,留下来的人也被掏空。告诉人们停止做他们当初签约要做的工作,转而去照看 LLM,好让 LLM 代替他们做那份工作,这是让人对他们曾经工作的系统变得更不聪明、也更不在乎的绝佳方式。每一次提示词,都让他们离自己曾经了如指掌的系统更远一步。每一个成为系统一部分的生成输出,都意味着这些人对系统实际如何运作理解得更少。这些人被剥夺了让他们聪明的东西(构建和学习中的挣扎),也被剥夺了让他们在乎的东西(主人翁感以及与系统的紧密联系)。
我们已经从一个依赖由在乎事情的聪明人维系着的复杂而脆弱系统的世界,走向一个由生成式 AI 运行复杂而脆弱系统的世界。运行生成式 AI 的人没有那么聪明,也没有那么在乎。当然存在例外(这也是为什么很多事情仍在顺利运转),但我们正走在一条在乎事情的聪明人数量不断减少的轨道上,这是个很大的问题。只要这个数量继续下降,就会有更多系统失败。
我认为我们这里遇到的是资本主义的热炉子时刻。当你告诉一个小孩炉子很烫、不应该碰,你会发现有两种孩子。对一种孩子来说,警告本身就是教训,他们不会碰炉子。对另一种孩子
我们需要真正在乎事情的聪明人


