上诉法院谴责 AI 生成的被害人影响陈述
R v Jerome Gibson [2026] EWCA Crim 1302,2026 年 9 月 22 日,判决见此处。
在发现一名警察使用 Microsoft Copilot 生成被害人个人陈述(VPS)、意图最大化情感冲击从而影响对罪犯的量刑之后,上诉法院就人工智能(“AI”)在刑事诉讼中的使用发出了严厉警告。
鉴于 AI 生成的内容正势不可挡地出现在从警察不当行为程序、死因调查到司法审查申请的各种场合,本案仍然就 AI 在任何司法场合中的滥用提供了一个严厉的早期警示。
背景
在该刑事诉讼中,被告人对四项罪行表示认罪:(i) 违反《1861 年人身伤害法》第 20 条的严重身体伤害;(ii) 违反《2019 年攻击性武器法》第 52(1) 和 (6) 条的持刀威胁;以及 (iii) 两项违反《1971 年刑事毁坏法》第 1(1) 条的毁坏财产罪。他被判处 44 个月监禁。
当罪犯申请就量刑提出上诉时,其上诉理由之一是,在量刑听证中,控方依据了一份由一名警察使用某种形式的 AI 制作的 VPS。
看来这名警察将被害人的询问笔录上传到 Microsoft Copilot,并给出如下指示:“根据这次被害人询问,我要你创作一份尽可能最具冲击力的被害人个人陈述,重点放在持刀犯罪上,但也要整体呈现其中的虐待行为。我要你这样来写,使它符合量刑中较高的伤害等级。”
该警察随后引用了量刑指南,并进一步指示 AI,其目标是“争取最高刑期,并写出最催人泪下的 VPS,让法官或读者读到时落泪”。
尽管该陈述取材于被害人在询问中所说的话,但法院评论称,它读起来非常像是一篇修辞或辩护练习。
所幸,量刑时法官似乎识别出了这一点,因而仅依据被害人在询问中真实叙述的极为有限的事实:即罪犯戴着巴拉克拉瓦面罩,以及她担心他打算杀死她。法院确信这些并非 AI 编造的内容,进而认定不当生成的 VPS 并未加重所判刑罚。因此,就这一具体理由提出的上诉失败。
然而,在关于使用 AI 制作证人陈述的评论中,上诉法院的回应毫不含糊:
“我们几乎无需说明,任何警察都不应以这种方式制作任何类型的证人陈述,任何以这种方式制作的陈述也都不应在刑事案件中被依据。”
法院将该警察使用 AI 生成陈述的行为描述为“可鄙”。这名涉事警察此后已被调离一线岗位,并因其在本案及其他案件中的行为正在接受调查,这或许并不令人意外。
这是一起刑事案件并不重要:上诉法院的观点必然同等适用于每一个司法辖区。毫无疑问,无论发生在何处,使用生成式 AI 制作证人陈述以影响诉讼程序都是完全不可接受的。
上诉法院谴责 AI 生成的受害者影响陈述
当然,并没有任何规则明确要求证人必须亲自打字或起草自己的陈述。由警察根据证人向其提供的陈述来撰写证人陈述,是完全适当的做法,而“通过电话取得陈述,并向我回读了陈述”之类的措辞在陈述中很常见。律师协助起草证人的陈述也同样寻常,律师如果为完整性而审查陈述草稿,甚至在陈述未涉及相关事实问题时向证人建议应涵盖的其他事项,也不会违反任何规则或职业准则。
然而,制作此类陈述时的关键要求是:
- 内容准确反映证人本人未受影响的证言;
- 陈述仅限于证人的事实陈述;
- 陈述不包含任何未经授权的意见陈述,也不作出辩护式的法律/事实主张;
- 证人在采纳该陈述前已阅读该陈述,或已由他人向其宣读该陈述;
- 证人确实通过签署该陈述表明其已将该陈述采纳为真实;以及
- 陈述包含所要求的真实性声明。
重要的是,事实证人陈述的功能并不是对法院卷宗中的文件提供评论,也不是列出对他人证据的意见,更不是参与争辩事项。首要义务仍然是提供证人本人所知事实的真实陈述。
在 JD Wetherspoon plc v Harris [2013] EWHC 1088 (Ch)(此处)案中,Briggs J 坚定强调了这一点,批评那些实际上是起草好的辩护陈词而非真正证人证据的陈述。他谴责证人陈述变成争辩、评论和提交意见的工具这一趋势。认定在那些方面,他面前的证人陈述构成滥用,滥用的部分应被剔除。
在本案中,问题并不在于使用 AI 技术本身,法院的批评针对的是警察对证据程序的破坏,而 AI 恰好是这种情况发生的机制。
AI 正越来越多地被用于法律领域,若使用得当,它或许可以成为有用且节省时间的工具。但许多“在基层一线”工作的人也会经历过 AI 被滥用的情况,尤其是当质量极差的 AI 生成申请被提出,或 AI 生成的意见被提交给法院时。
此类申请和意见 often 极其冗长、缺乏重点且啰嗦,同一主张用略有不同的措辞表达多次,把每一个想得到的论点都视为同等有价值,却不关注决定性争点。AI 生成的意见通常包括被概括而非分析的法律权威依据,或者复述法律检验标准却未将其适用于事实,因此没有直接回应法院面前的最终问题。它们常常聚焦于细枝末节,例如披露或已听取证据中的细枝末节,并使这些看似成为值得关注或重要的重大问题。它们常常长篇讨论公平、比例性、正义或公众信心,却不触及验尸官面前的具体问题。最糟糕的例子包括引用“幻觉”产生或根本不存在的法律权威依据。更常见的是,AI 生成的引注在技术上正确但与争议点无关,或者所引法律权威依据被说成确立了某项法律主张,而它们实际上从未考虑过该主张。
一些验尸官已经作出回应,在其法庭中制定了一套指令来规范 AI 生成意见的提交(下文附有一个已在使用的、关于使用 AI 的验尸官指令示例),但在整个司法系统中提供指导将会有所帮助。
文章标题:上诉法院谴责 AI 生成的受害者影响陈述
正文: 一个快速的改变可以是修订真实性声明,要求签署人确认该陈述为其本人所作,而非由 AI 生成(或者确实声明其使用了 AI 协助——上议院近期已就提交至其委员会的任何书面证据实施了这一做法)。
验尸官关于使用人工智能的指示
保密性及将文件上传至 AI 系统
- 法院向您披露的文件及其所载信息,仅供死因研讯之用。除非此类信息本已由您持有或已属公共领域,否则必须将其视为机密。
- 您不得将任何死因研讯文件或其载有的信息上传至任何开源人工智能平台,或托管于公共或混合云环境的基础设施。
- 法院将把将死因研讯文件上传至开源 AI 工具的行为视为违反保密义务。唯一例外是在安全且受控的网络环境中使用闭源 AI 系统,且该环境足以保护材料的机密性。
AI 生成的法律陈词
- 利害关系人可使用人工智能工具协助法律检索及起草书面陈词,前提是此类使用须以负责任的方式进行。必须谨慎确保法院不会因不准确、虚构或由 AI 幻觉生成的陈词、法律主张或所谓的权威依据而被误导,无论此种误导是故意还是无意。
- 任何使用 AI 生成向法院提交的陈词或法律论纲的人,必须在向法院呈交之前,独立核实所有事实性陈词、所引用的任何成文法材料以及所依赖的任何法律权威依据的准确性。
- 除非依赖某一法律权威依据的人已核实其为真实的司法裁判,且该裁判支持、或至少可论证地能够支持其所被引用来支持的主张,否则不得引用该法律权威依据。
- 若使用 AI 生成法律论证,文件必须包含作者的声明,确认其已亲自审阅所依赖的任何法律权威依据或成文法条文,并可确认该依据支持其所被引用来支持的法律主张。
- 自我代理的利害关系人对其书面及口头陈词的内容和准确性,与代表利害关系人的法律代理人承担同样的责任。
陈词的长度和内容
- 提交至验尸官的书面陈词或论纲不得超过 15 页 A4 纸(字体不小于 12 磅、1.5 倍行距),除非主经验尸官指示适用不同的页数限制。
- 若认为有必要提交更长的书面陈词,必须在提交和送达文件之前首先获得主经验尸官的许可。此类许可申请必须以书面形式提出,篇幅不超过 A4 纸两面(字体不小于 12 磅、1.5 倍行距),并解释为何认为有必要提交延长陈词的理由。
- 若任何陈词中引用了法律权威依据,必须包括对判决中载有该法律权威依据据以确立的法律主张的段落编号的引用。
- 违反上述指示向法院提交的陈词,验尸官可不予阅读。或者,不符合本指示的书面陈词可退回作者,指示其修改并遵守指示。