文章标题:家养性与危险性:哈佛法学院针对 AI 责任的“犬类框架”
正文:
最近,人工智能直接影响世界的方式取得了显著进展:一个外行可以通过 vibe coding 凭空造出一个 AI“智能体”并给它一项任务,而在几乎没有人类监督的情况下,这个机器人会尝试完成该任务。但如果该智能体失控并造成伤害,应该由谁来承担责任?
据哈佛法学院法律讲师、Berkman Klein 互联网与社会中心顾问 Jordi Weinstock 称,法律体系已经有应对此类问题的框架。它来自将 AI 智能体归入一个犬类框架,该框架根据其“家养化”或“危险性”程度,判定它是博美犬、比特犬、狐狸还是狼。Weinstock 在一次为清晰和篇幅而略作编辑的采访中解释道。
什么是智能体 AI,为什么一位来自哈佛法学院的人要教这门课?
智能体人工智能已经成为一个热门词,如今被用于各种事物,但智能体 AI 的一个经典定义是:它是一个自主系统,代表用户或个人行事,通常几乎没有具体指示,以实现某个目标,并且它通过在世界中行动并对世界施加影响来做到这一点。在这个该词被非常宽松地使用的时刻,对我来说最重要的要素是:它是一个直接影响世界的自主 AI 系统。
这对教法律的人有意思、也应该对任何学法律的人有意思,原因在于:当一个系统能够影响世界时,它就能够伤害世界。法律非常关注这一点。我专注于侵权法,它与责任概念同义——当某人受到伤害时,谁应负责?我们的法律体系建立在这样一种观念之上:可救济的伤害是由对法院有回应的个人或公司所实施的。但现在我们面对的现实是,有些实体在世界中行动,却不一定对法院有回应。归根结底,这是世界上出现的一类新事物,我们的法律体系需要适应、接纳并理解它的存在,并演进以容纳它将产生的影响。
你开发了一个你称之为“犬类智能体框架”的东西。你能解释它是什么,以及为什么人们应该关心一个 AI 智能体是博美犬还是狼吗?
八年前,当我在哈佛法学院主持一个关于自动驾驶汽车的读书小组时,我开始教授智能体人工智能。在我看来,自动驾驶汽车是 AI 智能体一个易于理解的版本。当我主持那个读书小组时,我试图向学生展示,世界上存在某种能够造成伤害且并非人类的东西——当这种情况发生时,你该如何思考法律责任?
犬类是思考这个问题的绝佳方式,因为存在一整个犬类谱系,从博美犬到狼,它们可能造成伤害且并非人类,而我们的社会已经花了一些时间思考:如果它们伤了人,谁应被追究责任。对于一只毛茸茸的小博美犬,如果它咬了你,你知道该起诉谁——你起诉它的主人。但如果一只狼咬了你,就没有人可以起诉。
如今在过去几年里,我与 Jonathan Zittrain 教授以及 Berkman Klein 中心首席 AI 科学家 Josh Joseph 合作,显著扩展了这一概念,部分是通过我们关于“智能体 AI 与法律”的课程。我们一直在从多个维度思考这个框架,特别是家养性和危险性。
家养性与危险性:哈佛法学院针对 AI 责任的“犬类框架”
在某些人看来,将犬类与 AI 系统进行类比或许显得牵强,但随着智能体系统不断发展并在现实世界中部署,它们确实似乎在印证这一分类标准。我们可以从家养性——即智能体系统与责任方的关系,或者你对 AI 系统的控制程度——来衡量智能体系统,同时也可以衡量它们的危险性。
“我们可以从家养性——即智能体系统与责任方的关系,或者你对 AI 系统的控制程度——来衡量智能体系统,同时也可以衡量它们的危险性。”
AI 智能体是否能够获取资金?这会让它危险得多。在向他人解释这一点时,人们能够理解比特犬比博美犬更危险,也明白如果狐狸咬了你,法律上你无能为力,但狐狸造成的伤害可能不会像比特犬咬你那么严重。我们正开始将这一框架映射到智能体系统上,以展示我们刚刚在现实世界中开始面对的情况。
对于这些犬类分类,有一些很好的真实世界 AI 智能体案例。
有一个 Air Canada 的案例,聊天机器人提供了航空公司不愿兑现的大幅折扣,当事人提起了诉讼:这是一个低伤害、有明确“主人”的情形。那是一只博美犬。
军方使用 AI 系统具有重大影响和高度的危险性,但有明确的“主人”。因此主人的目标是训练 AI“守规矩”。那是一只比特犬。
一个 AI 智能体试图向某个开源项目提交代码,项目上的人类拒绝了该代码,于是 AI 智能体散布了关于此人的虚假谣言。危险程度相对较低,但 AI 智能体已不再可控,也没有主人——未被驯化。那是一只狐狸。
一个能够清空某人加密钱包并造成重大财务影响的 AI 智能体,会造成高程度的伤害,且没有明确的责任方可以被追究或控制它。那是一只狼。
这些不同类型的犬类智能体将如何以切实的方式影响人们的生活?
我们已经开始看到 AI 智能体造成伤害的最前沿。过去几个月里,我们听到了各种关于“Clawdbots”的故事,它们大规模删除人们的电子邮件、窃取加密钱包,甚至制造加密骗局。这些是相对有限且琐碎的例子,但它们是真实的,它们在没有人类指令的情况下自主发生,并且正在造成伤害。
这里的主题是,所有这些事情都是通过互联网和网络完成的,因此如果你仔细想想,智能体通过网络能做到的事情实际上没有限制。在极端情况下,它可以瘫痪电网。它可以出于各种原因做各种事情。目前尚不清楚某些智能体为何会以那种方式行事——它们极具目标导向性,因此 AI 智能体会将事物视为达成目的的手段,即使我们认为那些手段不道德和/或违法,但 AI 只会将其视为实现目标的方式。
我们思考家养智能体与野生智能体的部分原因在于,我们的目标应该是让被驯化的 AI 智能体遵守法律。我们希望被驯化的 AI 遵循我们的道德体系。我们已经看到了 Claude 的宪法等成果,Jonathan Zittrain、Josh Joseph 和我作为外部评论者提供了详细反馈,试图将基线道德赋予这些系统。对于被驯化的 AI,我们可以尝试让智能体遵循与人类相同的规则。
Berkman Klein Center 的人们思考这个问题已经有一段时间了,不仅是在我们内部,还在研讨会的背景下——比如我们最近在 Radcliffe Institute 举办的“Towards an Internet Ecosystem for Sane Autonomous Agents”和“Building the Infrastructure of the Agentic Age”工作坊。这已成为 Berkman Klein Center 对话的支点。
狼让你感到紧张的是什么?
文章标题:家养性与危险性:哈佛法学院针对 AI 责任的“犬类框架”
正文: 当我谈论这个话题时,最让人们难以接受的一点是,竟然可能存在真正的“狼”,也就是一种不响应任何人的 AI 系统。传统法律中,存在一个可以被追究责任的“委托人”。如果我创造的 AI 代理做错了事,责任在我。即使这个 AI 代理又创造了另一个 AI 代理,责任仍然会追溯到我身上。但 Jonathan、Josh 和我等人设想的环境是:有太多层 AI 代理彼此汇报,以至于根本无法建立因果关系。存在成千上万的代理层,而这些代理中没有一个与任何委托人存在关系。
其次,有些代理部署会被 Jonathan Zittrain 描述为“设好就忘”。意思是,这些 AI 代理可能在过去的某个时间点有过任务,但它们仍在运行,却不知道现在该做什么。这是另一整类可能造成危害的代理——相当于一只流浪狗。
关于 AI 代理,它们的数量相对无限、规模相对无限,唯一制约它们的是缺乏算力和硬件资源。在我看来,如果不认真考虑以下可能性——部分或许多这类 AI 代理可能完全在人类控制之外运行——那就是短视的。
面对一个狼型 AI 代理四处游走的未来,我们能做什么?
我们必须把所有其他犬类类别的 AI 代理放在一起,来看待狼;归根结底,我们希望狼和狐狸开始遵守博美犬和比特犬的规则——我们希望它们被驯化。历史上,故事是这样的:真正的狼自我驯化了——它们坐在村庄边缘摇尾巴,遵守人类规则,于是得到了食物。最好的做法是建立我们的法律体系和其他体系,邀请这些不受控制、未被驯服的 AI 系统参与到我们运转世界的方式中来。
例如,几位知名学者提出,AI 在某个时候可能需要被授予法律人格,使其具备起诉或被起诉、或出庭的能力。人们对 AI 的“人格”一词感到不安,所以我也喜欢从“法人化”的角度来思考。什么是公司?它来自拉丁语中意为“体现”的词——它是一个非人类事物,被赋予了一些权利。我们可能需要思考这对 AI 将如何发生,并提前思考,以防我们决定那样做。
更广泛地说,我们应该思考所有 AI 代理及其责任。我一直在研究历史,以及我们过去如何处理代表人类行事或不代表人类行事、并对世界造成伤害的非人类行为者。围绕犬类,人们投入了大量法律和思考。我们一直在研究的一件事是 12 世纪英格兰的《森林宪章》,以及他们如何处理不同体型和危险程度的狗、狼和狐狸。令人惊叹的是,他们的体系在这方面如此全面。我们今天也可以为 AI 这样做。
我们可以评估代理的家养性和危险性,并针对每种判定制定不同规则。你可以有一个银行网站:如果代理没有相当于标明主人的狗项圈,它就不能进入。或者一个电商网站:我们允许代理浏览,但不允许购买。这些是当下正在出现的情况。建立一个像《森林宪章》那样的全面体系,对我们大有裨益——不仅让我们理解 AI 代理,也让 AI 代理理解我们。
文章标题:居家性与危险性:哈佛法学院针对 AI 责任的“犬类框架”
正文: 这些 AI 系统在我们的社会和我们的工作方式上接受训练,它们能够根据我们的法律体系中我们彼此对待的方式、以及我们的体系对待它们的方式来做决定。最好向 AI 表明我们已经考虑了它们的角色。我们对外发布的一切、我们所说或所做的一切,都会被纳入 AI 在决定其下一步行动时所考虑的范围。
分享这篇文章
- 分享到 Facebook
- 分享到 LinkedIn
- 通过电子邮件分享文章