Newshot Nancy Pelosi 的接替者已准备好监管 AI
作为加利福尼亚州州参议员，Scott Wiener 起草了旨在遏制先进 AI 风险的立法。如今，在赢下一场激烈的国会竞选、接替前众议院议长 Nancy Pelosi 空出的旧金山席位后，他可能在制定联邦 AI 政策中发挥关键作用。
我在周五与 Wiener 交谈，那是在他被宣布获胜仅几个小时后。但他已经在思考 AI 风险。前一天，AI 非营利组织 METR 发布了一份报告，该报告被广泛解读为 Anthropic 已实现递归自我改进的证据——这种现象指 AI 能够实质性地推动自身进步，而 AI 的进展可能失控。
“这非常令人担忧，”Wiener 说，并引用该报告作为证据，表明我们用于监管 AI 的时间正迅速耗尽。“我曾希望国会能在今年年底之前采取果断行动，”他说。“但这似乎并没有发生。”
Wiener 近年来越来越关注 AI，他也将 AI 安全运动的许多关切视为自己的关切：例如，在我们
Wiener 说，最重要的是，他希望国会通过真正有约束力的政策。“至关重要的是，当国会采取行动时，我们要以真正有意义、且符合当下需要的方式去做，”他说。这意味着要认真对待 AI 灾难的可能性，而他讨论这件事时使用的语言，正是 AI 安全专家通常使用的那类语言。“就 AI 失控风险而言，我们正处于一个非常危险的时刻，”他告诉我。“我们需要应对递归式自我改进。一旦进入那个领域，那确实可能成为完全失控的配方。”
在对抗灾难性 AI 风险的斗争中，他会有些盟友。例如，参议员 Bernie Sanders 会见过 AI 安全运动中许多最有影响力的人物，并多次谈到 AI 与生存性风险。但 Wiener 那种湾区的、AGI-pilled 的视角，与全国层面围绕 AI 的情绪之间仍有很大差距，后者的核心是对数据中心的反对。周二，选民批准了 41 项反对数据中心的投票措施中的 40 项，这一事实在 Wiener 和其他支持 AI 监管的人看来，似乎是个好迹象；但 Wiener 说，他认为这场运动与地方关切的关系，远大于它与 AI 风险这些更大问题的关系。
“真正反对 AI 发展方向的人——这是他们确实能有所作为的领域，”他说。“但数据中心抵制——在我看来，我觉得更多是因为人们不满自己的社区里可能出现这种东西，所有影响都靠近人们的家，推高电费并消耗水。就我所能判断的，我认为对大多数人来说，这才是更大的问题。”
Wiener 称，鉴于国会在监管科技行业方面记录不佳，他对国会遏制 AI 的能力只是“谨慎乐观”。他还担心能否让立法通过总统 Donald Trump 这一关；Trump 在 9 月把对灾难性 AI 风险的担忧称为“骗局”，并表现出明显不愿与中国合作，而 Wiener 认为这种合作对防止 AI 最坏后果至关重要。
但他说，Trump 的不可预测性提供了某种程度的希望，尽管这是一种充满隐患的希望。“到目前为止，我们看到的是些有问题的事情，但不是彻底的灾难，”Wiener 说。“我希望不需要一场灾难来促使总统采取行动。而且我希望，如果真需要那样——就像我说的，我希望不需要——但如果真需要，我希望那场灾难尽可能小。”