我在显示器前眯起眼,亮度调得太高了。背景里一盏将熄的灯发出微弱的嗡鸣,只有鼠标滚轮的咔哒声偶尔打断。至少这份文档只有十二页。
这是我今天收到的第七份文档。PRD、技术规格、事故报告和 QA 测试计划源源不断地涌来。每一份看起来都令人印象深刻,让我相信组织引擎仍在运转。工作继续在这台机器中流动。
我把最新的 PRD 放进 AI,让它给出摘要、风险和优先级。我在脑中勾勒出项目轮廓,问了几个问题,然后签上意见,注明下游的人应该验证什么。
PRD 被异步交给工程和设计。设计用 AI 搭建素材和原型图。工程用 AI 把它转成技术方案。QA 用 AI 跑一遍,生成验收标准。
工作推进中,功能以创纪录的速度上线。一天后,我们把它回滚了。
若干事件缺失。重要数据没有被填充。一个重复记录的 bug 让人们可以创建多个账户。而功能本身也和利益相关者设想的不一样。
接下来的两周花在分诊、对齐认知、试图弄清楚到底发生了什么上。
会议排上了。需求澄清了。归属争论了。测试补上了。团队回过头翻原始文档和素材,发现有些东西从未被明确说明,有些东西在技术上写清楚了但被理解成了不同的意思,还有几个关键假设只存在于某个人脑子里,或者根本不存在。
最终,我们再次发布了这个功能。但现在每个人都很沮丧,团队对流程和彼此都失去了一些信任。
然而,从一开始,每一个单独的步骤看起来都变快了。
AI Slop Spiral
AI 改变了我们的工作方式。
这不是即将到来。它已经发生了。
AI 让一个人以几年前看来荒谬的速度写作、分析、设计、构建。它也让人们可以在跳过思考的同时,产出看起来非常像思考成果的东西。
一份十二页的 PRD 看起来很严谨。四十条验收标准看起来很全面。一个带着几十条评论的 pull request 看起来被仔细审查过。每一份产物都成为下一个团队的输入。PRD 变成原型图、规格和测试计划。这些又变成代码、审查意见和测试。这是一场每一步都有 AI 参与的传话游戏。
每一步中,上下文被压缩、转换、扩展,然后再转换,共享的理解沿途丢失。文档变得越来越详细,而依据文档工作的人却越来越搞不清他们当初到底同意构建什么。
我把这叫做 The AI Slop Spiral。
人为的自信
真正的危险不是 AI 产出糟糕的工作——公平地说,人类一直在产出糟糕的工作。危险在于,AI 能在你还没想完的时候,把一个模糊的想法变成一份看起来已完成 的文档。它填补空白,抹平矛盾,提供没人讨论过的细节。这些细节可能完全合理。但有谁同意过它们吗?
文档看起来越精致,就越没有人会去质疑它。而你管理的 agent 越多,你就越没有时间仔细阅读它们的产出。
这种自信会蔓延。PM 认为工程理解了需求,因为 PRD 很详细。工程认为需求已经确定,因为 PRD 被批准了。QA 认为预期行为是正确的,因为它来自 PRD。领导层认为流程运转正常,因为产出在上升、工单流转在加快。
然后项目失败了,而组织留下了一份完美的记录,证明没有人理解整件事。
“多用 AI”
我们或多或少都在这场共谋中安于现状。
文章标题:AI Slop Spiral
没人想发现竞争对手已经摸索出某种神奇的新工作方式,而自己还在像个傻瓜一样开会。于是指令从上面压下来。“多用AI。”“把token用到极致。”“百分之九十九的代码都应该由AI来写。”
AI使用本身变成了目标。
花两周时间搞清楚我们最初到底想说什么,这个代价落在了别处。然后我们纳闷,为什么每个生产力指标都在改善,生产力却感觉更差了。
这种推动力受到来自AI公司、顾问、投资者和高管的营销鼓励,而这些人不必生活在让这些系统运转起来的日常现实中。
他们看到演示。他们看到基准测试的提升。他们看到一个人在十五分钟内构建出一个应用。当一切都在向你叫喊,说使用AI是能解锁世间一切潜能的金钥匙时,那当然人人都该用AI。
然后停机时间增加。返工增加。成本增加。项目不知怎么反而耗时更长。人们搞不清这些系统是怎么运作的。每个生产力指标似乎都在改善,却没人能解释为什么生产力感觉更差了。
我们在最大化产出,并假定产出就等同于进步。
AI非常擅长帮我们维持这种幻觉。
AI不是敌人
我知道这一整篇可能让我听起来像个对着云彩大喊今不如昔的老头。让我说清楚:我支持AI。我用AI编辑了这篇博客文章。关键词是编辑。初稿是我自己写的,之后让AI清理,再之后我又编辑了一遍。我还在摸索如何最好地把它用于写作,但我觉得在写这篇特定文章时做这个尝试是有意义的。
在生活中,有时问题本身可以成为解决方案。随着技术不断演进,随着我们深入了解AI如何影响可扩展性和组织效率,我们或许能优化出利用它的最佳方式。
我一直在用AI,我也希望我的团队用它。我们目前正在构建AI工具,让全公司的人都能基于同样的工具、数据和上下文来工作。当一个项目从产品转到设计、工程或QA时,下一个人应该能看到已经决定了什么、为什么,以及还有什么需要验证。我们正在把工作流烘焙进工具本身,为每个角色定制步骤、指南和护栏,并加入检查机制,帮助人和agent基于正确的信息工作。
这些新工作流引出一个更大的问题。这些交接点,我们一开始到底需要多少个?在一个AI承担更多工作的世界里,传统的角色划分或许没那么合理了。如果交接以及共享上下文的丢失是个问题,那为什么要设这么多交接点?理论上,一两个人可以使用AI agent来充当PM、设计师、工程师和QA,从想法到实现再到验证,保持完整的上下文。这种端到端的ownership历来是创业公司的超能力。问题是,AI现在是否让它在大规模下成为可能。
从大局来看,这项技术仍处于早期阶段。会有成长的阵痛,而且会以各种方式显现。互联网彻底改变了我们的工作方式,但更深层的组织变革是在技术本身成熟很久之后才到来的。技术可以变化得很快。人和组织的变化则慢得多。你可以对抗这个现实,也可以接受它,并围绕它优化你的团队、流程和系统,同时朝着一个更好更光明的未来努力。
或者至少是一个不那么sloppy的未来。
新文章,直接发送到你的收件箱。
不定期发表关于技术、工作、人和生活的随笔。没有垃圾邮件,随时退订。