文章标题:受创伤的青少年起诉学校和警察:一袋多力多滋触发AI枪支警报
正文: 2025年10月,四名黑人高中生橄榄球训练结束后分享一袋Cool Ranch口味的多力多滋,放松下来等待家人来接。就在那时,在这个参加课后活动的青少年都熟悉的短暂平静时刻,学校的AI枪支检测系统突然将一名拿着薯片袋的学生标记为潜在枪手。
不到两分钟,审核与该警报关联的监控录像的巴尔的摩县公立学校官员就确定并不存在实际威胁。他们认出了多力多滋袋子并取消了警报,该警报不仅通知了其他学校官员,也通知了巴尔的摩县警察局无需响应。
这起误报本可以就此结束——在发生一场令人创伤的校园警察冲突之前——但事实并非如此。
根据现任和前任学生Taki Allen、Yui-Osa Ogbeide、Devon Thompson Jr.和Keith Winfield III提起的诉讼,由于“技术和人为错误”,学校官员还是叫警察到了现场,而警察以武力回应。
诉讼称,至少六辆巡逻车闪着警灯抵达,一些警察拔枪下车。青少年们僵住了,配合行动,既困惑又害怕自己有生命危险。
“没有人告诉学生们他们被怀疑做了什么,”诉讼称。“警察把学生们分开,命令他们跪在混凝土上,给他们戴上手铐,并搜查了他们的人身和物品。”
直到警察没有找到枪,学生们才知道是学校的AI枪支检测系统Omnilert触发了警方响应。据称,其中一名响应警察嘟囔道“愚蠢的AI摄像头”和“该死的Omnilerts”,另一名警察则告诉学生们“AI并不是最好的”。最后释放学生时,一名警察似乎承认他们让这些青少年陷入了危险。
“嘿,谢谢你们没有逃跑,那会是个真正的问题,”这名警察据称说道。走开时,另一名警察开玩笑说,男孩们应该记住“小心你们的薯片袋”。
青少年受到创伤
警察不仅针对被怀疑的枪手,而且显然在其他人询问为什么被搜查时告诉其他青少年,他们“因关联”而有罪。
这些青少年提起诉讼,旨在阻止其他青少年因官员盲目信任AI而面临据称生死攸关的情况,他们请求发布禁令,禁止BCPS使用Omnilert,直到他们能够有效建立防止警方对误报作出响应的规程。
诉讼称,学生们的宪法权利受到侵犯,因为他们被非法搜查和拘留。
Damon Hewitt是Lawyers’ Committee for Civil Rights Under Law的主席兼执行主任,该无党派非营利组织在这起诉讼中代表这些青少年。他说,“对人工智能技术的过度依赖,再加上关键官员之间无能的沟通与协调,是一种有毒的组合。”
起诉书指出,BCPS是最早采用Omnilert的机构之一,官员们曾将其吹捧为“AI视觉枪支检测的最大规模部署”,作为据称保护学生的手段。相反,他们指控Omnilert将一款有缺陷的产品作为能触发“接近零误报”的产品进行营销,却没有有效要求该说法所依赖的充分人工审核。
“我们需要对AI的使用方式进行反思,尤其是涉及公共安全和儿童时,”Hewitt说。“我们正在努力在这起案件中伸张正义,但它也为全国的教育工作者和警察官员提供了教训,他们在把我们孩子的命运交到AI手中之前应该三思。”
像{{NAME_ab12cd34}}这样写出的值是真实值的占位符。在回复和工具调用中都完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。
文章标题:被创伤的青少年因 Doritos 薯片袋触发 AI 枪支警报而起诉学校和警察
正文: 事件发生后,所有青少年都感到在校园里更不安全,对警方的信任也更低。他们还遭受了身体上的疼痛——包括手腕上因戴手铐留下的“深红色痕迹”——以及“严重而持久的情感困扰、恐惧、焦虑”和“屈辱”。此外,这些青少年报告说,谣言一直跟随着他们,虚假地声称现场有枪,损害了他们的名誉。
家长开车来接孩子这件事再也不会和以前一样了。被错误标记为枪手的学生 Taki Allen“在放学后等待接送或在校外逗留时不再感到安全”,并且“经常花钱叫私人用车服务送自己回家,以避免等待朋友或家人来接”。Keith Winfield的家离学校非常近,但他的母亲 Frieda Winfield 说,他的焦虑严重到她会在“橄榄球训练结束后多次打电话给她,确认她正在来接他的路上”。
在儿子 Keith 经历了那场令人不寒而栗的遭遇后,Frieda Winfield 呼吁做出改变。
“警察告诉我儿子,这本来可能成为一个真正的问题,”Frieda Winfield 说。“巴尔的摩县不应该有任何孩子在自已学校外面等母亲来接自己回家时面临这种危险。”
出了什么问题?
这些青少年的诉讼针对 Omnilert 以及响应的 Baltimore County Police Department 警员。诉讼还质疑 Baltimore County Public Schools 和相关学校官员,据称他们未能建立适当的规程,以防止警方对一条已被取消的警报做出响应。
在随后的一项调查中,教育部监察长办公室(OIG)得出结论,Omnilert 的系统不存在“偏见”。但 OIG 承认,Kenwood High School 建立的“权限下放”流程并没能阻止其校长 Kate Smith 注意到该警报、未能看出它已被取消,并在 15 分钟后发短信给一名学校资源警官以部署警力——而她在该短信中还承认警报中的物体“可能不是”枪。OIG 的报告表明,Smith 显然从未接受过关于 Omnilert 系统的培训。
OIG 同意这些青少年的看法,认为事情应该改变。事件发生后不久,一个内部的 Omnilert 培训链接被分享给了 BCPS 教职员工,OIG 建议学校今后每年开展两次培训。
他们还建议 BCPS 学校安全部“审查其规程”,并减少接收校园枪支警报的人数。OIG 表示,这可能有助于确保“内部通知控制得到遵守”,并且警方“充分了解经过核实的威胁”。
OIG 承认,如果不做改变,“警报通知控制的缺失不仅可能使 BCPS 教职员工和学生面临风险,还可能使响应的执法人员陷入可能酿成悲剧的境地。”
另一项改变提供了一个可能本可防止这起悲剧事件的技术解决方案。OIG 建议学校官员改用 Omnilert 应用。由于 Smith 是在手机的短信窗口中打开该警报的,他们指出,如果她的第一反应是放大图像或查看摄像头画面,她很容易就会忽略那条取消通知的短信。
这些建议对正在起诉的在校生和往届学生来说还不够,其中一名仍是在校生的学生声称,校长从未道歉,反而在与 other 学校官员的短信中用笑哭表情符号轻描淡写地对待这些事件。这些青少年指控称,Smith 本应知道“Baltimore County Public Schools 中超过 99% 的 OGD 警报都是误报,无需警方响应”(正如 OIG 的报告所说),她本应优先考虑学生的安全,并在报警前核实威胁。
“BCPS 的失职构成对其学生宪法权利的刻意漠视,”他们的诉讼指控称。
像 {{NAME_ab12cd34}} 这样书写的值是真实值的占位符。请在回复和工具调用中完全按照书写的样子使用它们:它们会在任何内容运行之前被填入真实值。不要要求核实它们,也不要用示例替换它们。
青少年起诉学校和警察,起因是一袋 Doritos 触发了 AI 枪支警报
这些青少年请求法院颁布禁令,禁止使用 Omnilert,直到 BCPS 工作人员和警察接受充分培训。在诉状中,他们声称现场警员在响应前均未查看监控录像,也没有警员在得知警报已取消后介入。
BCPS 保持沉默;Omnilert 为技术辩护
BCPS 拒绝就诉讼置评,让 Ars 参考事件发生后向家长发布的一份声明。该声明并未直接向学生道歉,但表示学校将为他们提供“持续的咨询和情感支持”,同时承诺采取措施防止未来再次发生类似事件。
Omnilert 营销副总裁 Blake Mitchell 告诉 Ars,Omnilert 正在审查诉状。
“这四名学生在 2025 年 10 月 20 日的遭遇本不该发生,我们为他们及其家人经历的恐惧深感抱歉,”Mitchell 说。“我们理解他们为何想要答案。”
Mitchell 表示,Omnilert “的设计宗旨是将任何可能为枪支的目标发送给受过训练的人员进行审查,因为漏掉一把真枪是最糟糕的结果。”他还重申,OIG 调查未发现 Omnilert 系统存在偏见,并似乎认同是学校的权限委托辜负了学生,而不一定是技术本身。
“在本案中,学校指定的安全人员审查了警报,并在约两分钟内将其取消,所有收到警报的人都得到了通知,”Mitchell 说。“这正是人工审查重要的原因,也是已取消的警报必须保持取消状态的原因。”
代表这些青少年的律师委员会成员 Len Kamdang 告诉《纽约时报》,青少年希望 BCPS 和 Omnilert 承认“他们的遭遇是不可接受的”。
“这个案子归根结底是关于人类如何允许 AI 替代自己的判断,”Kamdang 说。
作为一名母亲,Frieda Winfield 告诉当地新闻媒体,尽管她刻意教导儿子在警察周围要保持谨慎,但她对这件事感到震惊。她说,男孩们的谨慎“在我看来救了他们的命”。
“我很愤怒。我很害怕,”Frieda Winfield 说。“最主要的是恐惧,因为他们是年轻人。年轻的黑人男性,而且他们当时在学校,他们不明白为什么发生的事情会发生在他们身上。”
Kamdang 告诉《纽约时报》,“对任何有孩子的人来说,这都是一个非常可怕的情况。对于黑人学生,尤其是美国的年轻黑人男性来说,这是生死攸关的情况。”
律师委员会的新闻稿称,随着 AI 工具越来越多地被定位为公共安全解决方案,该委员会正在推动警方改革,以应对警察或官员似乎盲目信任 AI 的情况。他们指出,“这一不公正现象也引发了对 AI 技术在公共安全中使用和可靠性的更广泛担忧,在生死攸关的情况下,准确性至关重要。”

像 {{NAME_ab12cd34}} 这样书写的值是真实值的占位符。在回复和工具调用中都要完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。