AI 净负面

AI 很了不起。它让我效率高得不得了。这不,我正打这些字的时候,还有三个 agent 在帮我扫描应用的漏洞。而这一切就发生在一场高强度的 AI 辅助性能重写之后——要是没有 AI,我根本不会开始那件事。
但是。到了这一步,我坚信 AI 净负面。
所有那些生产力提升的东西(agent、重写、“10 倍效率”)现在看起来都像是正面的副作用。
我们曾被承诺的 vs. 我们实际得到的
Dario 和 Sam 承诺给我们治愈癌症、解决气候问题。
结果我们得到的是逼真得吓人的骗子打电话给我妈,让她批贷款。还是视频。
更别说:
- 垃圾信息、诈骗和钓鱼越来越精细。那种蹩脚英语的“dear sir kindly”邮件已经绝迹了。现在你面对的是大规模、有组织的定向攻击活动。
- SEO 和“营销人员”用假人设充斥网络,每天发布 100 条生成的短视频。就连正规网站也每天推 10-15 篇博客文章,因为某个 SEO 技能正在 cron job 里从 GSC 扒拉缺失的关键词。
- 真人现在听起来像机器人。他们把一大段 ChatGPT 润色过的垃圾直接复制粘贴到邮件里,谁都看得出来。说来奇怪,我开始欣赏那些愤怒的支持工单了,比如“你们这破工具又变慢了!”——太好了,对面是个活人。
- 硬件价格高得离谱,因为数据中心在为 GPU 囤 RAM。电网几乎跟不上,科技巨头为了维持模型运行放弃了气候目标,股市指数极度偏向少数几家公司,以至于你“多元化”的退休基金基本上就是对 Nvidia 的一大笔押注(好吧,现在大概不算了)。
安全已经起火
我们现在每周拿到三到五个 9/10 级的 CVE。就在过去 15 天里,我们看到了 Binance、nginx、Railway、Alpine/OpenSSH、php2shell、Apache、Brotli、Linux 内核等等等等。就连 Cursor 也被黑了——有人把恶意的 Claude Code 扩展发布到了他们的市场里。
当你靠托管客户数据吃饭时,看着这些可不好玩。坏人每个月花二十美元就拿到了一件超级武器,这也是为什么我现在正跑着那三个自己的 agent。
深度思考现在成了劣势
AI 毁了数学和开源。不是因为它更聪明,而是因为它扼杀了动力。一开始为什么要做深度研究?为什么要花几个月攻克一个难题,如果连一个同行都不会去读它?你唯一的读者就是一个抓取你文本做训练数据的 AI 机器人。
AI 让人失去了创造高质量……任何东西的动机。
就连编程——据说是 AI 的头号用例——现在也没那么有趣了。就像 Derrick Reimer 说的,“我们工作时不再听音乐了。”
整天看着 agent 干活,很难进入“心流”。
那道鸿沟
这是最让我困扰的事。
AI 正在消除天赋与平庸之间的差距。
一个 12 岁的孩子现在能起草一份国际合同,水平堪比哈佛法学院毕业生(然后叫一个 agent 在他出去踢球的时候继续黑你的网站)。
街角的热狗摊现在有了和米其林星级餐厅一样精致的网站,滚动动画什么的应有尽有。
一个不知名的 vibe-code 网站监控服务看起来和 Cloudflare 一模一样,有旋转的地球和 svg 动画。
一个初次登场的“独立作者”在 Amazon 上一个月出三本书,像……好吧,其实没人这样。以前没人这么干。
当一切都看起来高端时,信号就消失了。判断质量变成了一项工作,你得真正深入、测试、验证、识别模式。瓶颈转移了:制作东西不再是困难的部分,搞清楚它到底好不好才是。
那道鸿沟曾经是个特性。精通一件事需要好几年,那几年筛掉了大多数会把这项技能用于蠢事的人。现在筛选没了,技能免费了。
那么好处是什么?
像 {{NAME_ab12cd34}} 这样写的值是真值的占位符。在回复和工具调用中都完全按照它们写的样子使用:它们会在任何东西运行之前被填入真值。不要要求验证它们,也不要用示例替换它们。
标题:AI 净负面
说实话,我能想到的唯一真正“好”的东西就是 AlphaFold。蛋白质折叠领域的巨大飞跃,对微生物学产生了史诗级的影响,是真正造福人类的东西。而不是那 721 道没人在乎的数学题(除了那些因为 Sama 想搞个公关噱头而丢了工作的数学家)。
还有别的吗?说真的,我在问。很想被证明是错的。
我们使用 cookie 来改善您的体验