加拿大头号通缉犯的图像由 AI 生成。我们如何知道它们准确?
安全与技术专家警告,使用这项技术存在风险


社交分享
这些逼真的图像会眨眼、转头、交叉双臂、眯眼和耸肩。
对一些人来说,加拿大排名前 25 的头号通缉犯的最新公布,可能让人想起《哈利·波特》中警告 Sirius Black 从 Azkaban 逃脱的通缉海报。但 Bolo Program 使用的这些男女动态图像虽然并不神奇,却也不是真实的——它们是 AI。
Bolo Program 执行主任 Max Langlois 周四在多伦多的一场新闻发布会上说:“今年,在 AI 的帮助下,我们把排名前 25 的通缉犯带进这个房间,真人大小,像你在街上、超市、机场或其他任何地方看到他们时可能的那样动起来。”
在他身后,25 名因加拿大一些最严重罪行而被通缉者的 AI 生成图像穿着运动衫和牛仔裤站着,把双臂背在身后,挪动脚步并叹气。
“如果这让人感到不适,那正是目的所在,”Langlois 补充道。
但一些安全
文章标题:加拿大头号通缉犯的图像由AI生成
“如果动画是在数据不足的情况下制作,并且做出了错误的假设,那么就有可能误导调查人员和公众,因为他们会不加批判地接受这些数字篡改过的画像,”Eliot对CBC News说。
加拿大公民自由协会隐私、监控与技术项目主任Tamir Israel解释说,在没有嫌疑人照片的情况下,合成图像或素描一直存在这个问题。

Bolo Program网站展示了加拿大25名头号通缉逃犯的AI模型,见这张周四提供的讲义图片。头号通缉犯Satinderjeet Singh的AI渲染图位于左上角。(Handout/Fondation Stéphan Crétier/The Canadian Press)
“这种做法在历史上一直是导致错误定罪和错误逮捕的重要因素,而且对特定人群的影响更为严重,比如原住民和黑人,”Israel说。
“而这种生成图像的AI趋势引发了同样的一系列担忧,尤其是在使用低质量图像来生成看起来超逼真的东西时。”
AI生成的图像也出现在Bolo网站的着陆页上,以及当你点击每个人的条目查看更多信息时出现的个人条目中。
只有当你继续向下滚动时,才会看到嫌疑人的真实照片。

Satinderjeet Singh,又名Goldy Brar,因2023年谋杀Sukhdool Singh Gill而被通缉,温尼伯警方在周四发布的通知中说。此处展示的是温尼伯警方提供的未注明日期的照片。(Submitted by Winnipeg Police Service)
一个“经过验证的模式”
今年的头号通缉名单包括全国各警察部门通缉的逃犯,包括蒙特利尔、多伦多、温尼伯、埃德蒙顿和卑诗省Delta。
名单首位是Satinderjeet Singh,又名Goldy Brar,温尼伯警方因2023年的一级谋杀案对他发出全国通缉令。Bolo悬赏25万加元,征集任何能导致他被捕的信息。据了解,他是Lawrence Bishnoi帮派的高级成员。
- 据信为Bishnoi帮派高层副手的男子因2023年温尼伯杀人案被通缉
Langlois曾表示,Bolo的方法有着经过验证的过往记录。例如,根据Bolo的年度报告,2025年,25名头号通缉嫌疑人中有13人被捕——这是该项目2018年启动以来被捕人数最多的一年。
与该program合作的警察部门也对其表示赞赏。例如,在温尼伯警方副局长Cam Mackid就Singh发表评论的一份新闻稿中,他说:“印度在找他。美国在找他。而现在,加拿大凭借Bolo Program经过验证的模式,也在找他。”
- 在数据泄露后GTA警队暂停使用Crime Stoppers,这对调查意味着什么?
“Bolo Program展示了警察部门和社区伙伴在加拿大各地合作、扩大我们调查人员覆盖范围的价值,”尼亚加拉地区警察局警长Bill Fordy在周四的另一份新闻稿中说。
多伦多警察局指出,自Bolo启动以来,Bolo活动中涉及的28起多伦多案件中有19起已导致逮捕。
但加拿大公民自由协会的Israel表示,他想知道这些活动产生了多少虚假线索和指控,以及被错误识别的人会遭遇什么。他补充说,这些信息似乎没有被追踪。
CBC News向Bolo提出了这个问题,尚未收到回复。
文章标题:加拿大头号通缉犯的图像由AI生成
正文:

涉嫌参与2023年温尼伯谋杀案的Bishnoi帮派成员被通缉
警务工作中的私营实体
两位接受CBC News采访的专家均表示,警方与Bolo等第三方公司合作时可能存在严重隐患。渥太华大学的Eliot表示,在应用AI技术时尤其如此,并补充说透明度和监督是维护公众信任的关键。
例如,2021年,加拿大隐私专员认定皇家骑警使用一款有争议的第三方面部识别技术严重违反了加拿大隐私法。Eliot表示,这促使警方在技术使用方面的监管发生了重大变化。
- 调查发现皇家骑警使用面部识别技术违反了隐私法
- 隐私专员将调查加拿大Crime Stoppers数据泄露事件
“Bolo等案例所提出的问题是,当警务技术由与警方合作的第三方部署时,这些监督措施如何适用,”他说。
Israel补充说,第三方组织在这样做时可能没有警方自身所具备的同等保障措施。Israel指出,我们最近在Crime Stoppers数据泄露事件中就看到了这种情况。CBC News上个月的一项调查显示,过去25年间提交给Crime Stoppers项目的超过150万条加拿大线索已被泄露。

Crime Stoppers遭黑客攻击,数万名加拿大人的个人信息被泄露
“我想说,这类实体也是同样的情况。如果是警方在做这件事,会有一些规则要求确保准确性、规范生成内容,并设有保障措施来规定这些合成图像今后将如何使用,”Israel说。
据Eliot说,Bolo的出发点是好的,他表示自己在该项目中并未看到任何直接的警示信号,但他仍然“相当谨慎”。
“我们必须确保AI技术在警务工作中的应用是在适当的监督、咨询、披露以及对加拿大人权利和自由的考量下进行的。”
关于作者

高级撰稿人兼编辑
Natalie Stechyson自2021年起担任CBC News的撰稿人和编辑。她报道社会趋势、家庭、性别、人情味故事以及综合新闻。她自2009年起从事记者工作,曾任职于Globe and Mail和Postmedia News等媒体。加入CBC News之前,她是HuffPost Canada的父母版编辑,并凭借关于流产的报道获得加拿大在线出版奖银奖。可通过[email protected]联系她。
CBC的Philip Lee-Shanok对本文有贡献
相关报道
- 数据泄露后大多伦多地区警队暂停使用Crime Stoppers,这对调查意味着什么?
- 随着渥太华加大AI战略力度,批评者警告健康数据隐私问题
- 据信为Bishnoi帮派头号副手的男子因2023年温尼伯杀人案被通缉