
认真在乎的聪明人会用工具
LLM 放大的多半是坐在键盘前的那个人。好奇心强、真正在乎的工程师能把自己能构建和验证的东西成倍放大;而懒散的人目前还能充当肉身前台混日子。
任何接触过支付链路或老旧分布式系统的人,都懂 Justin Michael 本周博文里描述的那种感受。你揭开某块经济体系默默依赖的基础设施的面纱,期待看到瑞士钟表般的精密工艺,结果发现是胶带、二十年前的批处理文件,以及全公司仅有的三个人,他们知道为什么周二绝不能重启四号机器。他称这些人为“认真在乎的聪明人”,并断言他们才是灯一直亮着的主要原因——这一点他说得完全正确。
不过文章读到一半,笔锋一转,转到一种我最近屡见不鲜、且让我很不舒服的论调。Michael 指出近期接连发生的大规模故障(Microsoft 365、United、多家大型银行、Apple),并把矛头指向管理层,指责他们想用生成式 AI 取代那些人。这话有道理,其中大概确有不少实情。但他并没有止步于糟糕的管理层。到文章结尾,工具本身已变成腐蚀剂,侵蚀着每一个拿起它的人。“每一次提示词,都让他们离那个曾经了如指掌的系统更远一步,”他写道。每一行生成的代码,都剥夺了工程师那让他们变聪明的挣扎,以及那让他们在乎的归属感。
其含义几乎不言自明:如果你在用 AI,那你就是在放弃“在乎”。
我每天都在用这些工具,处理那些一旦出 bug 就要赔上大笔金钱、或者把生产队列卡死的系统,而我的体验几乎完全相反。LLM 放大最多的,是你本来的样子。好奇心强、真正在乎的人,能大幅放大自己的产出以及理解的深度。懒汉们目前还能充当聊天窗口的肉身前台,把工单搬进提示词框,然后对着吐出来的东西点“合并”。
想一想在 2024 年之前,一个普通工程团队里“在乎”到底意味着什么。多数情况下,它意味着跟时钟打一场必输的仗。你发现状态机里某个棘手的竞态条件,知道应该在 TLA+ 里建模,或者写一个属性测试去穷举每一种交错执行,或者去读下游那四万行的服务代码,以确认自己的假设成立。有一半的时候你没这么做,因为认真做要花上两天你没有的时间,而且还有三处火情等着你。于是你肉眼扫一遍 diff,给正常路径写个单元测试,留一句略显不安的评论,然后祈祷一阵子没人碰那个文件。在乎很少受限于人有多想去做正确的事;它受限于一个人读和打字的极限。
当你把一匹能力出众的模型交给那位工程师,他们不会突然耸耸肩、对第一稿盖个橡皮图章。他们终于写出了那份 TLA+ 规格。他们顺着一直好奇的线索往下拽,深挖某个棘手的遗留子系统为何是这般行为,而不是把它当黑盒对待。他们为那个没人有空好好 mock 的、时灵时不灵的第三方 API 搭了一个真正的模拟器。他们在改动某个遗留函数的契约之前,让模型在庞大的 monorepo 里追踪它的每一个调用方,而不是 grep 五分钟然后祈祷。他们为那些让自己夜里睡不着觉的部分,写出穷尽的边界用例测试,并跑变异测试。
那种过去只有写航电软件的人或在贝尔实验室工作的人才讲究的严谨,如今在平平无奇的周四就便宜到足以做到。把这称作“不再在乎”,完全是把事情说反了。
文章标题:真正在乎事情的聪明人会用工具
正文: 然后是放大器的另一面。任何审查过一份 1,500 行 pull request 的人都知道 Michael 到底在愤怒什么——那份 PR 出自一个明显点了“全部接受”的肉体代理之手,linter 一路绿灯,而被要求解释第 400 行时却两眼发直。(我自己当然也犯过打开超大 AI 辅助 PR 的毛病,不过是为了真正在乎这件事,所以单看行数本身并不算罪状。)提示词、粘贴、祈祷,这套流程真实存在,而且会产出糟糕透顶的软件。我以前写过那种特定的下坠感:盯着 800 行你脑子里毫无模型的生成代码,然后手指交叉着把它部署上线。
还有一种更隐蔽的危险,对职业生涯早期的人尤其如此:如果你从不亲自跟一个诡异的 bug 较劲,也从不自己读堆栈跟踪,你就永远长不出那种“闻到不对劲”的疤痕组织。而 LLM 让懒惰变得格外诱人,恰恰是因为它们失败的方式。你搞砸时编译器会冲你大声嚷嚷;模型则用流畅自信的文笔失败,看起来完全合理,直到生产环境起火。这是真实的风险,假装它不是才叫愚蠢。
不过,仔细看看那个场景里真正坏掉的是什么。麻烦来自发布没人验证过的代码、没有建立心智模型,而且是在一个出问题时没人觉得自己该负责的组织里。这种工程师早在 ChatGPT 出现之前就有了。十年前,他们粘贴 Stack Overflow 最高票答案而不读评论,为了省下二十分钟思考而引入一个臃肿的依赖,在每次 review 上三十秒内就盖上“LGTM”。如今他们可以充当模型的“人肉剪贴板”混日子,至少能混一阵子,直到生产 bug 堆积起来,或者有人意识到一个 cron job 干剪贴板这活儿更便宜。明天把他们的 LLM 拿走,他们也不会突然开始关心 ACH 的边界情况。他们只会回到以更慢的速度发布粗心的老路上。
看看 Michael 自己举的 ACH 例子。维持银行轨道运转的人,并不是为了让灵魂贴近底层而把 NACHA 文件凿进石板。他们的在乎体现在对账脚本、监控、静态检查、runbook,以及他们自己构建的定制工具上——因为在这种混乱的系统上,单靠人的注意力是会崩溃的。每一次向抽象阶梯的跃升(编译器、垃圾回收器、搜索引擎、高层框架)都带来了完全相同的警告:我们又在远离机器,又在失去真正理解它的人。诚然,今天能手工汇编 x86 的程序员比 1985 年少得多。与此同时,我们必须维持运转的系统规模增长了好几个数量级。没有更强的杠杆,你不会迎来一个人人都把整个代码库装在脑子里的手工艺工程黄金时代。你只会得到更多没人真正理解的关键系统,因为它们早已超出了单个无辅助大脑所能承载的规模。
关于所有这些宕机事件,还有一头更大的房间里的大象,而且它远早于 LLM 就存在了。我们现在看到的巨大比例的不稳定,是四十年来工程严谨性不足的账单到期了。真正在乎并不能让人不犯错。业内一些最聪明、最尽责的工程师花了几十年,用内存不安全的语言构建关键基础设施,把规格不清的协议粘在一起,跳过形式化验证,发布那些边界情况只存在于某个人脑子里的状态机。英雄主义和部落知识让轮子一直转着,直到某一天转不动为止。
聪明、真正在乎的人会用工具
如今把系统搞垮的许多漏洞和故障模式,已经在野外悄无声息地存在了数年,甚至数十年。我们之所以能一直侥幸无事,是因为没人有时间或预算去捅一捅庞大遗留技术栈的每个黑暗角落,也因为变化足够慢,手工打补丁还能跟上。直到现在,问题才被逼到台面上:永不休眠的自动化缺陷搜寻、数十年积累起来的耦合,以及终于复杂到靠人力英雄主义也无法遮掩的系统。把这一切都归咎于 AI 垃圾产出是个令人安心的故事,因为它暗示我们只要回到旧的工作方式,一切就会稳定下来。可正是旧的工作方式,让我们走到今天这个世界:糟糕的更新和沉睡已久的缺陷能在同一周里让大型银行、航空公司和云服务商摇摇晃晃。
这一切都不能让领导层脱责。Michael 完全说中的是高管层里正在发生的事。领导层看着 LLM 心想:太好了,现在我们可以裁掉那些难搞、会反对坏点子的资深工程师,用一个每月 200 美元的订阅服务替代他们——这真是一场慢动作的列车事故,而且会让本已脆弱的局面雪上加霜。对一个从未在凌晨三点被叫醒处理故障的人来说,一个靠默默称职和一摞看起来像模像样的垃圾产出撑着的脆弱系统,在季度幻灯片上看起来完全一样。
不过,这种病比生成式 AI 要早几十年。它正是同一种管理幻想,曾带给我们这些话:“把昂贵的内部团队开掉,把核心平台外包给报价最低的人”,“砍掉 QA,因为开发者可以自己测试自己的东西”,以及“裁掉 20% 的工程人员,同时保持路线图不变”。AI 并没有发明工程师是可以互换的产出工厂这一信念。它只是给了高管一个更光鲜、听起来更省钱的借口,让他们把同一套剧本再演一遍。
这就是为什么把使用 AI 的工程师和正在掏空自己公司的高管混为一谈会造成真正的伤害。把故事讲成“AI 让工程师变笨、变冷漠”,无意中给了糟糕的领导层一个不在场证明:哎呀,新技术没达到宣传效果,谁能知道呢?而且在这个过程中,它还嘲笑那些身处一线、正抓住一切能找到的杠杆,努力让越来越荒诞的系统不倒下去的人。
如果你想知道某人是否真的在乎一个系统,问他们有没有用过 LLM 是错误的问题。要问:他们合并的代码在凌晨两点出故障时会发生什么。要问:“模型写的”在代码评审里能不能当借口蒙混过去。要问:他们有没有时间、地位和支持,去告诉一位 VP 这个截止日期是鲁莽的。
当公司剥夺主人翁意识、惩罚异议、奖励发布数量胜过可靠性时,就会失去那些真正在乎的聪明人。给这些人真正的利害关系和好的模型,他们不会抽身离去。他们终于能去构建那些以前从来没有时间构建的护栏、证明和修复。
Michael 说得对,资本主义现在正把手实实在在地按在滚烫的炉子上,而我们其余人正在被烧伤,高管们则在重新学习:责任无法被自动化掉。我只希望我们把怒火对准那些下这个赌注的人,而不是假装真在乎就意味着每个字符都要亲手敲出来。
封面:Jan Collaert I 根据 Jan van der Straet(Stradanus)创作,Nova Reperta: The Invention of Book Printing,约 1600 年。CC0,来源。
- 以 17% 的利率借贷以避免征兵 Personal stable 20.11.2026 俄罗斯联邦预算现在有一半用于
真正在乎的聪明人会用工具
- 谁拥有机器?Personal stable 15.10.2026 真正值得为之失眠的 AI 风险,并不是失控的超级智能。而是廉价、由 AI 驱动的对脆弱基础设施的黑客攻击,以及少数公司利用这种恐惧把其他所有人挡在这项技术之外。
