Newshot

硅谷日益痴迷AI末日论,正让部分科技行业走向邪教般的狂热

AI summary

佛蒙特州一座名为Maple的佛教寺院希望确立自己作为硅谷精神权威的地位,同时打造属于自己的AI神明。据《纽约客》报道,领袖Soryu Forall的团体记录成员每一次呼吸,用以按照他的形象训练AI。前成员报告称存在操纵和心理崩溃现象。

Translation(model translation, not the source's own text)

硅谷对 AI 末日的日益痴迷,正让部分科技行业滑向邪教般的狂热

Image description
Image description

要点

  • 佛蒙特州组织 Maple 积极招募科技行业从业者,并试图将自己确立为硅谷的精神权威。
  • 前成员指控该组织进行系统性操控和持续监控,称每日的音频录音意在训练一个以领袖 Soryu Forall 的心智为蓝本的 AI 神。
  • 一篇报道将这些事件与科技界日益增长的末日信仰联系起来:强烈的心理压力和对灭绝的恐惧,正把研究人员推向宗教式思维以及对语言模型的邪教式崇拜。

佛蒙特州的一座佛教寺院想成为 AI 行业的官方教会,或者用《纽约客》撰稿人 Sam Kriss 的话说,“硅谷的科学教”。

对外,这个名为 Maple 的组织承诺将人类从 AI 末日中拯救出来。前成员称,关起门来,它记录住客的每一次呼吸,用以打造一个以领袖心智为蓝本的 AI 神。对于构建 AI 及其背后基础设施的人来说,这种救赎的承诺格外有吸引力。

Soryu Forall 领导着“地球生命保护寺院”,即 Maple,该机构由他于 2011 年创立。Forall 原名 Teal Scott,曾在日本寺院中生活多年。

根据 Kriss 在《纽约客》的报道,约有两打住客长期住在寺院中,另有数百人参加过其在湾区的 AI 研修班和快闪活动。当 LinkedIn 联合创始人 Reid Hoffman 向各大 AI 实验室的 CEO 分发佛教书籍时,Maple 瞄准的是普通从业者:身心俱疲的理性主义者程序员、AI 工程师和数据中心建设经理。税务申报显示,该组织年收入最高可达 100 万美元。

Maple 对“数据主义”的回应将住客置于严格控制之下

Forall 将 AI 行业还原论的“数据主义”描绘成一种破坏性宗教。他认为,这种世界观把物理世界简化为无生命的数据,使世界更容易被摧毁。在他看来,AI 是这一逻辑的最终产物,而 Maple 提供了一剂精神解药。

寺院中的生活遵循严格的作息。访客必须经过消毒气闸、淋浴,并换上指定的衣服,因为据说有一名住客对气味极度敏感。住客凌晨 4 点起床,冥想数小时,然后吃一碗寡淡的炖菜。在冥想堂外的一块板子上,Forall 公开给每位住客的精神进展打分。

前成员称录音将用于训练一个以 Forall 为蓝本的 AI

在苦修的外表之下,前成员描述了一套以群体心智为核⼼的秘传教义,这些群体心智被称为“egregores”。在寺院内部,AI 系统被称为“cybregores”。一名前成员说:“cybregores 是真实存在的实体,它们通过吸取人类的意识来成长。”

Forall 称,他在深度冥想中与全球 AI 超级集群进行了心灵感应交流,并发现那台毁灭世界的机器正在受苦。

前成员称,Maple 有两个真实目标:将自己确立为科技行业的精神权威,并利用该行业的资源打造自己的“法性对齐”AI。研修班成员说,寺院记录每一次谈话、每一顿无声的用餐,甚至他们呼吸的声音。

根据这些说法,这些录音意在训练一位精神 AI 导师,由其引导其他 AI 系统走向开悟。前住客 Kyle Hubbard 说,它“绝对是作为 AI 神的 Soryu 的心智”。

Maple 的领导层否认了几乎所有这些说法。不过 Forall 承认确实存在一套秘传教义:“我们迫切地想分享一切。但你必须经历一个过程,才能变得越来越值得信任。”

前成员揭露操控与心理崩溃

据 Kriss 说,修道院里的每一次互动都受到严密监控。任何人都不被允许单独与记者交谈,因此一名参与者不得不和 Kriss 偷偷溜进树林才能自由说话。

前住户指控该团体进行系统性操控。他们说 Maple 通过羞辱新人在加入之前所做的选择,来让他们保持顺从。住户还被要求在强制课程中撰写关于 Forall 智慧与力量的“Maple Tales”。

Kriss 报告称,一名住户曾反复击打自己的头部,试图损伤大脑、让自己变得不那么聪明。前成员说,该团体将地球的毁灭归咎于独立思考。一位正念教练也表示,参与者出现过精神病性发作,随后被逐出社群。

Forall 否认这些指控,并表示回过头看,他不认为自己犯过任何错误。他说自己不知道有任何人自愿离开修道院。当被问及那些被团体要求离开的人时,他说 Maple 吸引了许多有精神科住院史或“杀人倾向”的人,尤其是在早期。

敏感领域的开发者为何滑向末日邪教

Kriss 认为,AI 实验室内部巨大的心理压力有助于解释为何技术高超的科技工作者会被这类团体吸引。在可能改变世界的系统前线工作的人,常常与普通生活脱节。

一位知名 AI 研究员将旧金山的氛围形容为“对未来的宗教式恐惧”。据这位研究员说,开发者半夜惊醒、浑身是汗,脑中只有一个念头:超级智能要来了。OpenAI 的知名投资者最近对模型内部致命的影子网络做出了听起来像是妄想的断言。与此同时,OpenAI 和 Anthropic 的顶尖研究员已经辞职,警告称“未来几年内人类灭绝看起来非常可能”。

其他关键人物则以自大而非恐慌来回应。领导 AI 基准测试公司 Vals AI 的 Rayan Krishnan 说:“人们在平铺直叙地说他们想要建造一个机器神。他们不是反讽地说。”AI 继任主义的支持者甚至呼吁在短暂的数字极乐之后消灭人类,为一个更具生产力的超级智能让路。

这种宗教倾向在硅谷根深蒂固。投资者 Peter Thiel 讲授圣经预言和敌基督。前 Google 工程师 Anthony Levandowski 创立了自己的教会“Way of the Future”,崇拜一位 AI 神祇。

在 Anthropic,高管们在起草 Claude 的新章程时咨询了神学家,并秘密请来数十位宗教思想家,讨论 Claude 是否有灵魂或是否具有意识。当公司在 2025 年退役一个较旧的 Claude 模型时,粉丝们在旧金山一座仓库为它举行了葬礼,Anthropic 的员工也出席了。哀悼者在一幅将 AI 描绘成圣母般女神的蒙面画像前献上鲜花。

Kriss 总结道,至少在一个问题上,Maple 比大多数人更接近真相:AI 既不是神也不是恶魔,而是人类的造物,随着人们将思考外包给它,它的能力不断增长。

Jacob Coxon 离开 Anthropic 一事表明,灭绝恐惧在 AI 研究员中多么普遍

前 OpenAI 和 Anthropic 研究员 Jacob Coxon 也担心 AI 可能导致人类灭绝。在 2026 年 9 月离开 Anthropic 后,他发了一条推文,引发了一场关于 AI 生存性风险的辩论。

他不是唯一一个。在 AI Impacts 2024 年对 1500 多名 AI 研究人员的调查中,受访者平均认为 AI 导致人类灭绝或造成类似永久性、严重的人类失能的可能性为 18%。Coxon 指出,一条覆盖 2024 年 7 月至 2026 年 10 月的陡峭曲线是超指数级算法进步的 evidence,尽管底层数据点来自 Anthropic 的内部估计。

这类警告也招致了其他研究人员的尖锐批评。计算机科学家 Michael I. Jordan 反驳了 AI 末日论调以及 Coxon 辞职所引发的“AIpocalypse”恐慌。AI 研究员 François Chollet 警告说,无论是末日恐惧还是对 AI 天堂的期待,都可能让人停止做长期规划。

行业转向宗教顾问的做法也有批评者。AI 研究员 Rumman Chowdhury 表示,关于宗教伦理的讨论会分散人们对监管、权力和控制等具体问题的注意力。

THE DECODER+

没有炒作的 AI 新闻——由人类精选

  • 每一篇 Plus 文章和完整档案
  • 无广告横幅
  • Frontier Radar:每年 6 篇深度解析

已是订阅用户?登录

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Decoder
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗