Newshot AI 是否存在“适量”？
尽管我到现在已经明确表达了对 AI 的怀疑，但我并不是一个反 AI 的纯粹主义者，非要抗争“我的机器上不允许任何带有一丝 AI 编程痕迹的应用”。首先，这几乎肯定是一场必败之战。Microsoft 和 Apple 都在使用编程智能体进行操作系统开发，而且虽然我无法证明大多数运行 Linux 的人的系统某处至少有一些被 LLM 触及过的代码，但如果不存在，我会极为惊讶。
就在本周，我把播客播放器从 Castro 换回了 Overcast。（我大概有十年时间在这两者之间来回切换。Castro 的队列系统很棒，但这款应用一直比 Overcast 更多 bug，大约一年前它的订阅价格暴涨，而现在它已经换到第三个所有者——一家看起来不靠谱的公司，已经削弱了隐私政策。）我知道开发者 Marco Arment 已经成为一名热情的“agentic coder”，这意味着 Overcast 里有 Claude 生成的代码。他有趣的新应用 Fineliner 也是如此，我正在新的 iPad mini 上使用它（之后会详细说）。我不认为这两个程序会抹掉我的数据、让我的 iPad 过热，或者把我的信用卡信息发给俄罗斯黑客。理论上，Lex Friedman 最近关于 vibe-coding 所写的内容，嗯，很合我的感觉：
AI 已经大幅降低了生产一个应用的成本，但并没有减少生产一个出色应用所需的工作。生成某个能用的东西，和生成某个可靠运行、能处理意外情况、感觉直觉、尊重平台惯例并持续改进的东西，是有区别的。[…] 我很乐意为一款让人感觉经过精心打造的应用付费。我想要那些体现出打磨、测试和深思熟虑的应用。我想要来自我信任会继续构建和迭代的开发者的应用。我想要来自那些感觉投入其中的开发者的应用——那些才是我愿意、甚至渴望投资的应用。
（注意，那是 Lex Friedman，他很酷，不是 {{PERSON_ebd
House House，一个已经非常成功、资源不可小觑的工作室，做出了一个真正的选择：依赖一个道德上令人厌恶的软件系统，而不是寻求真实的人帮助——无论是付费外包还是仅仅友好的帮助。我想说这一点，并不是试图夸大他们所做的事情的范围，而是为了绝对清楚地表明，这件事存在真实的、实质性的层面，即使有些人想把这个议题描述为纯粹抽象的仪式纯洁性测试。
你可能会对“道德上令人厌恶的软件系统”这个说法感到迟疑，但 Bruno Dias（这篇博客文章的作者）写道“使用 LLM 就是自愿参与一个有害的政治项目，并使用剥削性和道德上不可接受的过程的产物”，他并没有说错。我在“AI 的鸡肉三明治问题”中写过这一点；简而言之，LLM 并非存在于真空之中。他接着写道，
我不会试图论证任何和所有 LLM 的使用都同样糟糕，但伦理边界要么存在，要么不存在。当然，有些伦理过错我们通常预期人们不会 100% 遵守，但也有一些伦理过错，我们认为期望人们在没有制裁的情况下永不触犯是合理的。我认为使用一套完全可选、高度补贴、两年前还不存在的 SaaS 产品属于后一类。如果你不同意，也许停下来想想你被宣传得有多严重，以及你在多大程度上在心理上向这些系统的正常化投降了。不使用 LLM 也完全可能做事，甚至是困难的事情；而且如果说有什么危害的话，“AI”政治项目的危害之一就是那台专门让你感到愚蠢和无助的宣传机器。
我不会试图论证任何和所有 LLM 的使用都同样糟糕，但伦理边界要么存在，要么不存在。当然，有些伦理过错我们通常预期人们不会 100% 遵守，但也有一些伦理过错，我们认为期望人们在没有制裁的情况下永不触犯是合理的。我认为使用一套完全可选、高度补贴、两年前还不存在的 SaaS 产品属于后一类。
如果你不同意，也许停下来想想你被宣传得有多严重，以及你在多大程度上在心理上向这些系统的正常化投降了。不使用 LLM 也完全可能做事，甚至是困难的事情；而且如果说有什么危害的话，“AI”政治项目的危害之一就是那台专门让你感到愚蠢和无助的宣传机器。
而且，你知道，这是让我担忧的事情。
我最近写道：“我想，如果我不能理解[我写过的]代码——不能逐行阅读并知道每个 API 调用做什么、为什么某些选择比另一些更好、这一切如何组合在一起——我就会失去某种有意义的东西，某种至关重要的东西。”虽然我并不是说每个全力投入代理式编程的人都注定会失去理解自己代码的能力，但越来越多的证据表明，“去技能化”是一个真实问题，也有证据表明，你给编码代理的余地越大，你的代码库就可能变得越糟。关于发现 Claude 在不同地方写了同一个函数的四个版本、找到从未被调用的巨大代码段，以及“找 bug”代理会想象甚至制造 bug 的轶事正在激增。LLM 和代理似乎“了解”你的代码库，里里外外，但它们实际上除了特定上下文中词与短语之间的统计关系之外，什么都不理解。LLM 本身甚至并不“知道”自己在处理代码。
像 {{NAME_ab12cd34}} 这样书写的值是真值的占位符。在回复和工具调用中都完全按书写形式使用它们：它们会在任何内容运行之前被填入真实值。不要要求验证它们，也不要用示例替换它们。
AI 是否存在“合适的用量”？
我听 Accidental Tech Podcast，听到 Arment 对编码代理如此热情时，我得承认，我很难把“我不喜欢使用自己没写过的库”和“我喜欢让机器人替我写代码”协调起来。当然，人类完全有可能检查每一段 LLM 生成的代码；我几乎不怀疑 Big Walk 里的代码是 House House 完全理解的代码。我见过的许多由 LLM 贡献的代码都是简短、清晰的修复和改进，把它们说成有毒、不可理解的垃圾，实在荒谬。约束你的代理，会把最后一段里的抱怨反过来：你使用的 LLM 生成代码越少，这些代码就越容易审查。
不过，这里更大的重点不在于 Big Walk，也不在于 Overcast，或者 Claude 修复了 macOS 里多少长期存在的小 bug（又可能引入了多少全新的小 bug）。重点在于，把 AI 辅助编码当成既然已经出现就必须使用的东西，不管我们把它看作纯粹的好事，还是看作收益大于弊端的手段，甚至看作不可避免的恶。正如 Dias 所写，不使用 LLM 也完全可以把事情做成，甚至是很难的事情。
人们可以以有限、刻意的方式把 LLM 用于编码，而我们现在拥有的语言模型大多是在开源、公开可用的代码上训练的，这使得它们（可以说）不像生成图像、音乐，或生成推销靠感觉编码出来的 Markdown 查看器的烦人邮件那样令人反感。但“大多”在这句话里承担了很重的限定——而且即便代码是开源的，也不意味着拿它来训练就是合法的。如果 Claude 无意中把一大块 GPL 许可的代码并入了你的非 GPL 软件，你就会有问题。我怀疑这个问题已经存在于成千上万个代码库中。
我们可以设想一个能解决 LLM 辅助编码重大问题的未来。模型在本地运行，而不是在把电和水变成钱、再输送给 Elon Musk 和 Sam Altman 的数据中心里运行；训练语料只包含许可证允许用于训练的代码。我怀疑任何允许商业复用的开源许可证都属于这一类，除非有人加上明确的“禁止 AI”条款。那个未来可能就在眼前。但我们必须面对我们现有的 LLM，而不是我们希望拥有的 LLM。
那么……这让我处于什么位置？我想，还是回到我一开始的地方。对我来说，发誓在工作中不用 LLM 是可行的，但在使用的每一款软件里都避开它并不现实。但我认为，这件事尤其应该让独立开发者比我在社区里看到的更加警惕。今天早上我写完这篇文章时，Mastodon 时间线上出现了这篇帖子，来自老牌独立设计/编码团队 Iconfactory 的负责人：
我现在得去恐慌发作一下了。
你知道，是啊，我理解。因为 AI，我已经不能再靠技术写作谋生了，而 AI 在技术写作上的糟糕方式，恰恰和它在所有事情上糟糕的方式一样：如果你并不真的在乎，它勉强够用，能蒙混过关。相当令人不安的是，一些本来很有洞察力的人并不理解，困扰他们本地酒馆里那些 AI 生成海报的同样问题，适用于所有 AI 生成的东西，而所有东西包括代码。
我不是说你不能在打造出色应用时使用生成式 AI；撇开 IGF 奖项的争论不谈，Big Walk 似乎就符合。但 LLM 按定义不可能有思想地做出任何东西，因为 LLM 没有思想。Lex 想要的一切——让人感觉经过精心打造、体现出精致、感觉直观的应用——都需要一个不仅有好品味、而且有理解力的人类开发者。而你交给机器人编码助手的东西越多，你理解得就越少。再说一次，你使用的 LLM 生成代码越少，这些代码就越容易审查。而你能使用的 LLM 生成代码最少数量，永远是零。
◂ 返回文章
为了支持我的写作，请在 Ko-fi.com 上给我打赏！
写成 {{NAME_ab12cd34}} 这样的值，是真实值的占位符。请完全按原样使用它们，在回复和工具调用中都一样：它们会在任何内容运行之前被填入真实值。不要要求验证它们，也不要用示例替换它们。
© 2026 Watts Martin · 许可协议：CC BY-NC-SA 4.0 联系方式：Mastodon · Bluesky · 邮箱