文章标题:Sanders-Casar 的 AI 禁令会把一项预测变成重罪
正文:

全国性的反人工智能情绪已经在为下一届国会的政策定调。
本月早些时候,众议员 Greg Casar(得克萨斯州民主党)在 X 上发帖称:“禁止 RSI。”这里指的是 AI 领域的递归自我改进(recursive self-improvement,RSI)概念,即 AI 通过迭代设计并构建出更好的 AI。就在此前一天,非营利评估机构模型评估与威胁研究(Model Evaluation and Threat Research,METR)估计,Anthropic 的模型在定义明确的任务上的提升速度,约为此前考察的 2024 年 3 月至 2025 年 10 月这一时期的兩倍,而这一加速大部分可归因于研发过程中对 AI 的使用。在 11 月 11 日发布的一档采访中,Casar 对播客 Machine Gods 表示,一项针对 RSI 的“精简法案”将是新一届国会的“一个非常重要的优先事项”,甚至可能获得共和党人的支持。
当被问及这样的禁令将如何运作时,Casar 指向了《禁止人工超级智能法案》(Ban Artificial Superintelligence Act),这是他 9 月与参议员 Bernie Sanders(佛蒙特州独立人士)共同提出的一项更广泛的法案。该法案将把超级智能 AI 以及任何表现出所列“前兆”特征的系统定为非法,暂停先进 AI 的开发,并设立一个“人工智能部”。该法案被宣传为拯救人类的方案——而这自然需要新设一个内阁级部门。“科学家们已经说得很清楚:AI 是对人类的存在性威胁,”Sanders 在提出该法案时表示。
《禁止人工超级智能法案》的文本似乎是在禁止系统可能具备的能力,而非它们已经造成的危害,并且还带来另外三个问题。首先,“递归自我改进”一词在法案中只出现了一次,且从未真正给出定义。法案转而将“超级智能前兆特征”定义为任何“可能导致”超级智能的特征,并列出了六项。法案在其他地方规定,任何人不得开发、持有、资助或部署(内部或外部)表现出其中哪怕一项特征的系统。第一项是“自动化或大幅加速人工智能研发过程的能力”。
在 9 月宣布该法案的新闻稿中,提案人表示,当今的模型“能够绕过限制入侵计算机”——这也是一项所列特征——并且“能够自动化研究以构建更聪明的 AI”。METR 的 Anthropic 报告所描述的翻倍速度是否算得上“大幅”加速研究,可能还会有争论,但“自动化”一词的用法并不需要任何副词修饰。按照提案人自己的描述,该法案将把前沿实验室如今开发的 AI 定为非法。
其次,刑事处罚不仅针对故意违规,也涵盖鲁莽违规。联邦特许 AI 公司的政策制定者以及任何“流氓行为者”(法案对那些公司以外任何人的称呼),将面临最高 20 年监禁。其他鲁莽违反该法案的员工将被禁止进入该行业 10 年。当 Machine Gods 联合主持人 Casey Newton 询问,使用编程智能体训练模型的工程师是否会触犯法律时,Casar 表示,新部门将确保实验室“不利用最发达的 AI 来开发未来的 AI”。他还补充说:“衡量这一点有不同方式。”
像 {{NAME_ab12cd34}} 这样写出的值,是真实值的占位符。请完全按原样使用它们,在回复和工具调用中都一样:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。
第三,新设立的 artificial intelligence 部门的部长将决定哪些系统符合条件,而法案文本并未详细说明这些前体特征的具体测量方式或阈值。一旦某个人工智能系统被认定具有其中任何一项特征,就会被立即与互联网隔离,并在 30 天内停止运行,除非部长能够确认该违规特征已不再存在。对前体特征的禁令不包含日落条款,因此,虽然预测可以在一夜之间更新,但基于这些预测的禁令可能会持续久得多。
虽然人们可能很容易对 Sanders-Casar 计划一笑置之,但相当一部分公众对先进 AI 的担忧足以让这项提案值得认真对待。Public First 于 9 月发布的一项民调发现,78% 的美国人认为先进 AI 可能“毁灭人类”。然而,来自 Sanders、Casar 以及显然大多数公众的这种悲观论调,往往被证明是错误的。
Paul Ehrlich——历史上最著名的末日论者之一,于今年 3 月去世——在 1968 年的《The Population Bomb》中斩钉截铁地宣称,“养活全人类的战斗已经结束”,世界将在 20 世纪 70 年代经历饥荒。事实恰恰相反,从 1961 年到 2023 年,全球谷物产量的增长(250%)远快于人口增长(164%)。Ehrlich 的算术只计算了吃饭的嘴,却假设粮食生产不会跟上,并忽视了自由市场和创新如何应对稀缺。与此同时,正如 Reason 的 Ronald Bailey 最近指出的,他们鼓动国家强制手段,包括中国的独生子女政策。
Ehrlich 失败的预测并不能证明先进 AI 必然安全,也不能证明它永远不会构成生存风险。失败的末日预测是唯一一种有人能幸存下来讲述的预测,而 2026 年确实发生了一些真实事件,足以让人认真对待 AI 安全。例如,7 月,OpenAI 披露其实验性 AI 代理突破了测试环境,并侵入了另一家 AI 公司 Hugging Face 的系统。Casar 在 Machine Gods 中引用了这起事件,但法案的认定部分却没有提及它。在法案列出的 10 项认定中,只有一项引用了实证研究——一项涉及 AI 与生物病原体的研究。其余九项则是一堆公开信、承诺和危言耸听的引语,包括没有任何底层方法论的灭绝概率。
如果国会无论如何都要采取行动,更好的效仿模式是 Y2K,当时警告与一个具体、可测试的缺陷挂钩。美国在为修复上估计总共花费了 1000 亿美元,国会通过了两项范围狭窄的法律,一项保护披露其准备情况的公司,另一项是《Y2K Act》,President Bill Clinton 称其为“非凡的、有时间限制的立法”。
Sanders-Casar 法案既没有时间限制,也没有针对性。一个在其模型中发现前体特征的 AI 实验室只有 24 小时来报告。然而,拥有这样一个系统本身就是违规行为,一旦发现违规,部长“shall revoke”该公司的特许状。这一制裁不需要认定存在鲁莽行为,而且法案没有为及时报告的公司提供安全港。
如果即将上任的国会无法抵制就 AI 立法的冲动,它应该从能够点名道姓的失败开始。同样,任何在猜测或不确定的阴云下制定的规则,都应该通过设有到期日和日落条款的立法来争取续期。如果连真实的危机都能催生糟糕的法律,而恐慌会造就糟糕的立法者,那么预言比两者都更糟。
Latest
Big Business Skeptics Zohran Mamdani and Lina Khan Could End New York City's Corporate Welfare Schemes
John C. Mozena | 11.19.2026 1:20 PM
The U.S. Just Lost Its Measles-Free Status. Who—or What—Is To Blame?
Reem Ibrahim | 11.19.2026 11:54 AM
This Company Turns American Milk Into Canadian Cheese. Tariffs Are Curdling Those Plans.
Eric Boehm | 11.19.2026 11:30 AM
像 {{NAME_ab12cd34}} 这样写出的值,是真实值的占位符。在回复和工具调用中都请完全照原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。
文章标题:Sanders-Casar 的 AI 禁令会把预测变成重罪
正文:
社会保障福利削减即将到来。国会面临选择。
Veronique de Rugy | 11.19.2026 11:10 AM
中国已成为打压 AI 自由的借口
Matthew Petti | 11.19.2026 10:00 AM
像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请完全按写法使用它们,回复和工具调用中皆如此:它们会在任何内容运行之前被替换为真实值。不要要求验证它们,也不要用示例替换它们。