Newshot

法院裁定:第四修正案不涵盖AI生成的“合理根据”

Translation(model translation, not the source's own text)

法院告知警方:第四修正案不涵盖AI生成的“合理根据”

法律问题

来自“还记得机械战警朝宪法裤裆开了一枪那回吗”部门

我不知道这个判决会把我们带向何方,但它的影响远远超出了它所涉及的这一起案件。AI几乎无处不在,如果法院裁定算法不能作出合理根据的判定,那么从人脸识别技术到预测性警务软件,再到Axon在其无处不在的执法记录仪上添加AI填充软件(其前提——警方不喜欢写报告——是正确的),一切都会受到影响/被波及。

在本案中,Alain Osorio因涉嫌在当地银行使用空头支票而被捕。嫌疑人的唯一照片来自银行的CCTV录像。这些录像被交给了Florence(肯塔基州)警察局的Ryan Kilmer警探。

这名警探决定将嫌疑人面部的截图(取自CCTV录像)通过警察局的人脸识别程序进行比对。该裁定书[PDF]并未说明使用了哪个人脸识别程序,但鉴于匹配是通过在Facebook上找到的照片完成的,这暗示可能涉及Clearview AI,因为该公司自成立以来就从开放网络中抓取了数千亿张图像。

这并不是说它在实际侦查工作中发挥了什么作用。它也没有做任何与宪法沾边的事,尤其是当“合理根据”中的关键词是“合理”的时候。

仅凭AI识别结果,Kilmer警探就断定匹配是准确的。[Id. at 4–5]。该Facebook个人主页属于一个名叫“Yony Smith Npoles Charon”的人,出于不明原因,Kilmer警探认定“Yony”实际上就是Alain Vizcay Osorio——即登记照中的那个人。

法院说的是“出于不明原因”。不过我可以做一个有根据的猜测。使用空头支票是大多数警察不会真正深入调查的那类犯罪。Kilmer警探接到案子后只做了最低限度的工作:他运行了一次AI辅助搜索。他实际上没有做任何类似真正侦查工作的事情。但他仍然觉得他那30秒的不存在的工作足以支持一份刑事控告和逮捕令的签发。

Osorio——住在内布拉斯加州——被捕并被引渡到肯塔基州面对刑事指控。他在被捕次日(2025年1月24日)获保释。随后,他于2025年3月被大陪审团起诉,大约两个月后被提审。Osorio再次表示不认罪。此时,州检察官办公室在Osorio提供证据证明空头支票被( presumably 仍在逃的)嫌疑人在银行监控摄像头中被拍下时他正在内布拉斯加州工作后,撤销了指控。

这名警探使用的AI似乎唯一能做到的事情,就是强化了调查人员“所有黑人长得都一样”的偏见。(需要说明的是,我并不确切知道这名警探是否有这些偏见,但本案中的事件链条确实支持对这个人假设的假设,如果你明白我的意思的话。)

监控录像中的人和Facebook头像与Osorio的登记照并不相似。[Id. at 6–7]。根据登记照,Osorio与嫌疑人唯一的共同点是,他是一名留着胡须的黑人男性。[Dkt. 3-1 at 2–3]。根据照片来看,Osorio似乎有着不同的头型、不同的发型、不同的面部特征和不同的肤色。

文章标题:法院:第四修正案不涵盖 AI 生成的“合理根据”

正文: Kilmer 警探向法庭表示(通过其宣誓书),他曾使用“调查工具”将 Osario 与嫌疑人“匹配”。但法院指出,实际上 Kilmer 只使用了一个工具,并径直采信了其明显错误的结论,尽管 Florence 警察局的政策明确规定,仅凭面部识别 AI 不足以“确立合理根据”。

Kilmer 的行为直接违反了这一政策,也违反了第四修正案本身,这给他想要从这场诉讼中全身而退、不承担经济责任的愿望带来了多重问题。该政策无可辩驳,这意味着 Kilmer 故意忽视了他的“培训”以及培训本应传授的任何“专业知识”。

但除此之外,还有第四修正案本身,它可不像警局软件的点击同意协议那样容易被忽视。法院的开篇段落已将此点说得清清楚楚:

美国宪法第四修正案不允许警探将评估合理根据的任务委托给 AI。换言之,第四修正案不允许仅凭 AI 未经证实的结论——即当事人实施了犯罪——就逮捕一个人。任何处于被告位置的理性警探都不可能得出其他结论。

第一点所暗示的影响远超本案,因为“警探”们经常让手指代劳(打个比方),并假装电脑吐出来的任何东西都值得逮捕。这不仅仅是本案中使用的面部识别技术。还包括通过所谓“预测性警务”来指导巡逻和公众互动的 AI。也包括为警察撰写报告的 AI,让计算机生成拦截、逮捕和使用武力的永久官方记录。

但同样重要的是那一段的最后一句。正是这一点将让此案站得住脚。该警探不受合格豁免权的保护,这意味着此案必定会被上诉。但如果这名警官坚持这样做(而不是“允许”他本应服务的民众通过和解替他买单),他就会把这变成一桩上诉案件。而且绝对没有理由认为上级法院会轻易无视这场诉讼提出的明显关切,让 QI 掩盖这一连串的错误。

目前,裁决维持原样:AI 不是合理根据。从来不是。也永远不应是。如果本法院对此有发言权,那它永远不会是。那些喜欢让电脑替他们思考的警探们,或许该减少对算法的依赖。正义永远不应受制于可用的算力。如果你缺乏正确开展警探工作的意愿(或智力!),那么……

归档于:第四修正案, ai, 面部识别, 面部识别技术, 误报, florence pd, kentucky, 大规模监控, 合理根据

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by Hacker News
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗