文章标题:我们避而不谈的 AI 副作用

我们避而不谈的 AI 副作用 Cloud Native Denmark 2026 年 11 月 20 日 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
嗨 👋,我是 Marcus Noble!我是一名平台工程师,在……我运营一份月度通讯——CloudNative.Now。我是 CNCF Ambassador。免责声明:本次演讲仅代表我的个人观点,不代表我的雇主或 CNCF 的立场。🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
我要坦白一件事…… 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
我们避而不谈的 AI 副作用 Cloud Native Denmark 2026 年 11 月 20 日 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
我们现在开始谈起的 AI 副作用 Cloud Native Denmark 2026 年 11 月 20 日 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
本次演讲不涉及的话题…… 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
本次演讲不涉及的话题…… • AI 对我们星球造成的环境影响 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
本次演讲不涉及的话题…… • AI 对我们星球造成的环境影响 • 这些模型所使用的训练数据来源可疑(往好里说) 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
本次演讲不涉及的话题…… • AI 对我们星球造成的环境影响 • 这些模型所使用的训练数据来源可疑(往好里说) • AI 幻觉 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
本次演讲不涉及的话题…… • AI 对我们星球造成的环境影响 • 这些模型所使用的训练数据来源可疑(往好里说) • AI 幻觉 • AI 的安全影响,我最近很挂念我的信息安全界朋友们 😅 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
本次演讲不涉及的话题…… • AI 对我们星球造成的环境影响 • 这些模型所使用的训练数据来源可疑(往好里说) • AI 幻觉 • AI 的安全影响 • 整个行业被同一批公司撑着,它们彼此之间来回倒钱 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
本次演讲真正涉及的话题…… 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
🫵 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
🫵 你!我!我们的同行!我们的继任者!🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
从软件工程师到软件审批员 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
从软件工程师到软件审批员 • AI 极大地提升了代码生成的速度…… 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
从软件工程师到软件审批员 • AI 极大地提升了代码生成的速度…… • ……但合并环节仍然是瓶颈。这并不新鲜,问问热门开源项目的维护者就知道了 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
从软件工程师到软件审批员 让我们看看软件工程师的角色是如何从“工程”转向“审批”的…… 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
从软件工程师到软件审批员 1. 让你选的 AI 实现 XYZ 2. 看着终端活跃起来,满屏都是极其自信的断言 3. 拿到一个 +1023 -473 改动的 PR 4. 全部读完并完全理解代码,对吧?😅 5. 合并,然后祈祷一切顺利 🤞 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
我们避而不谈的 AI 副作用
从软件工程师到软件审批者 1. 让你选择的 AI 实现 XYZ 2. 看着终端活跃起来,满屏都是信心十足的断言 3. 收到一个 +1023 -473 变更的 PR 4. 全部读完并完全理解代码,对吧?😅 5. 合并,然后祈祷一切顺利 🤞 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social 70%
从软件工程师到软件审批者 1. 让你选择的 AI 实现 XYZ 2. 看着终端活跃起来,满屏都是信心十足的断言 3. 收到一个 +1023 -473 变更的 PR 4. 全部读完并完全理解代码,对吧?😅 5. 合并,然后祈祷一切顺利 🤞 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social 30%
从软件工程师到软件审批者 1. 让你选择的 AI 实现 XYZ 2. 看着终端活跃起来,满屏都是信心十足的断言 3. 收到一个 +1023 -473 变更的 PR 4. 全部读完并完全理解代码,对吧?😅 5. 合并,然后祈祷一切顺利 🤞 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social 40%
从软件工程师到软件审批者 这正是 Addy Osmani 在 2024 年底所说的“70% 问题”。这 30% 的摩擦意味着 AI 适合用于原型设计、MVP 和学习辅助,而不是关键的生产代码。快进到今天,当前领先的模型已经让这个问题大大减轻,但它并没有完全消失!生成的代码质量已大幅提升,但理解它的认知负担仍然落在我们这些普通的软件审批者身上。🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
从软件工程师到软件审批者 “但我信任我的 AI 输出!--dangerously-skip-permissions 然后提交 PR 是我的常规操作!” 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
从软件工程师到软件审批者 1. 让你选择的 AI 实现 XYZ,自动批准并提交 PR 2. 看着终端活跃起来,满屏都是信心十足的断言 3. 提交一个 +13023 -4673 变更的 PR 4. 继续下一个任务…… 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
从软件工程师到软件审批者 1. 让你选择的 AI 实现 XYZ,自动批准并提交 PR 2. 看着终端活跃起来,满屏都是信心十足的断言 3. 提交一个 +13023 -4673 变更的 PR 4. 继续下一个任务…… 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social 100%
从软件工程师到软件审批者 1. 让你选择的 AI 实现 XYZ,自动批准并提交 PR 2. 看着终端活跃起来,满屏都是信心十足的断言 3. 提交一个 +13023 -4673 变更的 PR 4. 继续下一个任务…… 5. 同事 / 维护者审查 PR…… 1. 读完 PR 描述那一大堵文字墙 2. 花上几个小时试图理解这次变更的上下文 3. 找出它会影响其他功能的方面 4. 天哪,那是一个 SQL 注入漏洞吗?!在这个年代?! 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
从软件工程师到软件审批者 1. 让你选择的 AI 实现 XYZ,自动批准并提交 PR 2. 看着终端活跃起来,满屏都是信心十足的断言 3. 提交一个 +13023 -4673 变更的 PR 4. 继续下一个任务…… 5. 同事 / 维护者审查 PR…… 1. 读完 PR 描述那一大堵文字墙 2. 花上几个小时试图理解这次变更的上下文 3. 找出它会影响其他功能的方面 4. 天哪,那是一个 SQL 注入漏洞吗?!在这个年代?! 好吧,也许有点夸张了 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social 100%
软件工程师变成软件审批员 恭喜!你刚刚把某人升成了全职软件审批员 AI 生成的代码并没有消除劳动,它只是把劳动转移到了下游。我觉得 Justin Garrison 在他們的《Your Slop, My Sludge》博客文章里很好地总结了这个问题…… 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
你的专家们正在被淹没。他们无法完成你雇用他们来做的高质量工作,因为所有的垃圾都流向了知识之井。Justin Garrison 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
软件工程师变成软件审批员 恭喜!你刚刚把某人升成了全职软件审批员 AI 生成的代码并没有消除劳动,它只是把劳动转移到了下游。我觉得 Justin Garrison 在他們的《Your Slop, My Sludge》博客文章里很好地总结了这个问题。《哈佛商业评论》和 2025 年 Stack Overflow 开发者调查中关于 AI 的部分也指出了类似的问题。 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
技能退化 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
技能退化 并非真的如此,但它有很多相似的行为。• 你的大脑是一块肌肉——如果你不锻炼它,它就会变弱 • 读代码和写代码不是一回事 我们似乎在阅读时对信息的记忆不如自己产出时那么好(这被称为生成效应) • 我们把思考外包给了这些 AI 模型,但我们似乎并没有把释放出来的脑力用于更有批判性的思考。相反,目前( admittedly 有限的)研究表明,它让我们变得更懒。 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
对 GenAI 执行任务能力的更高信心与更少的批判性思考投入相关。https://dl.acm.org/doi/10.1145/3706598.3713778 生成式 AI 对批判性思维的影响:来自知识工作者调查的认知努力与信心效应的自我报告下降 fi 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
技能退化 • 处于风险之中的不只是我们的编程技能!• 正如 Adriana Villela 在他們的文章《从构建者到架构师》中强调的那样,我们正在失去:• 故障排查能力 • 写作能力 • 学习动力 它也在影响我们的协作能力!• 想法和功能现在都用 AI 来规划 • 同事们不再事先讨论工作,因此无法建立共享的上下文 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
那个感觉比单独用提示词更慢的对话,正在做提示词做不到的事。Simon Schrottner 的《Left of the Loop》 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
人的代价 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
人的代价 • 用 AI 取代现有员工是愚蠢的(而且坦率地说,是件可怕的事)• Klarna 用 AI 取代了 700 名员工——一年后他们逆转了这一决定 • 一份泄露的 Duolingo 关于 AI 优先的内部备忘录在网上引发了争议,导致公司收回了该决定 一些公司似乎在把 AI 当作减少员工数量的借口来取悦投资者 随着越来越多的公司评估现有员工能否用 AI 做更多工作,招聘冻结正在增加 倦怠即将到来!回到工程师 → 审批员 “59% 的[招聘经理]承认他们在招聘冻结或裁员中强调 AI […]”——ResumeTemplates.com 2026 年对 1,000 名美国招聘经理的调查 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
我们避而不谈的 AI 副作用
人力代价 • Stanford Digital Economy Lab 发现,在美国,AI 密集型行业中年轻工作者的就业率下降了约 19%(前一年下降了约 13%)• SignalFire《2026 年科技人才状况报告》发现,科技行业应届毕业生的招聘比例降至“大厂”仅 8%、初创公司仅 3%——且逐年下降!• 对于被录用的应届毕业生,对“精英”大学(如 MIT、Harvard)的偏好有所增加——自 2022 年以来上升了 10% 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
人力代价 再加上技能退化、学习动力不足以及团队内部沟通减少,一代人之内就会出现资深工程师的短缺。😱 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
付费才能玩 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
付费才能玩 • 二十年来,各类组织一直在努力将学习编程的成本降至接近 0 • 这些组织取得了巨大进展,使我们这个行业对来自各种背景的众多人群都变得可及 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
付费才能玩 • AI 编程把这些努力全都扔掉了!🗑 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
付费才能玩 • AI 编程把这些努力全都扔掉了!• 你现在要么每月付费,要么在免费套餐上受到严重限制 • 免费套餐上无法使用 Claude Code / Codex 是的,我知道可以用免费模型来使用它,但新手不会知道这一点 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
付费才能玩 • AI 编程把这些努力全都扔掉了!• 你现在要么每月付费,要么在免费套餐上受到严重限制 • • 免费套餐上无法使用 Claude Code / Codex 来自富裕背景的人拥有优势 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
付费才能玩 • AI 编程把这些努力全都扔掉了!• 你现在要么每月付费,要么在免费套餐上受到严重限制 • 免费套餐上无法使用 Claude Code / Codex • 来自富裕背景的人拥有优势 • 自托管模型需要在硬件上投入大量前期费用 • 这些模型很可能最终能在低配置硬件上运行,但到那时会不会太晚了?🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
付费才能玩 如果我刚开始学编程时就是这种情况,我今天很可能不会站在这里 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
那我们能对此做些什么呢?!你们所有人,就是现在 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
🤷 但这要靠我们一起想办法!我有一些想法…… 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
我们能对此做些什么?从软件工程师到软件审批者:我们在这次大会的几场演讲中都听到了这一点 • 体谅那些将要审查变更的人 • 确保你理解自己提交的代码 • 不要做你的 AI agent 的“肉身代理”——写好描述,解释你认为该变更重要的原因,理解该变更的影响,准备好回答问题 • 不要做甩手掌柜式的 PR!先就变更展开讨论——开一个 issue,在 Slack 上把你的想法聊清楚。也许你的变更不存在是有充分理由的。 • 你真的需要 AI 来做这个变更吗?不要派机器人去修一个错别字!🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
关于这个问题我们能做些什么?技能退化 • 时不时写一些好的、老派的、手工风格的代码。 • 在需要时把 AI 当作工具,而不是完全取代整个过程。 • 与你的团队沟通——一起构建提案、设计文档等 • 值得庆幸的是,人们似乎正在意识到这一点。Stack Overflow Developer Survey 2026 报告称:“6 成用户列举了在工作或学校中避免使用 AI 的理由,失去工作技能是首要担忧。” 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
关于这个问题我们能做些什么?人力成本 • 不要用 AI 取代人! • Shopify 将其实习项目扩大了 10 倍——这是公司可以如何改变现状的一个很好的例子 • Laurie Voss 有一个关于在 AI 时代如何招聘初级工程师的提案 • 引用昨天 Adriana 和 Josh 的话:“传递智慧,而非语法”——帮助初级工程师培养那些解决问题的能力 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
关于这个问题我们能做些什么?付费参与 • 作为个人: • 在那些努力保持我们行业可及性和多元化的组织和倡议中做志愿者,并向其捐款 • 作为公司: • 赞助 AI 的使用权限,资助学生和学习者的使用权限,赞助开源开发 • 招聘初级工程师并培训他们 • 作为政府: • 主权公民 AI 计划——🇰🇷 韩国目前在这方面走在前列,其“AI for Everyone”计划 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
我今天呼吁大家开始进行更多这样的对话!我们对我们的同行和我们的后继者负有责任,让他们拥有我们曾经拥有的同样的机会! 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social
幻灯片和资源见:https://go-get.link/cndenmark26 想法、评论和反馈:https://go-get.link/cndenmark26-feedback 谢谢! 🐘 @[email protected] | 🌐 MarcusNoble.com | 🦋 @averagemarcus.bsky.social