Traumatized teens sue school, cops after Doritos bag triggers AI gun alert

媒体报道 Ars Technica AI 原文语言:英文

四名黑人高中生因食用多力多滋薯片被学校的Omnilert AI枪支检测系统误报,随后遭到警察持枪搜查和拘留。受害学生现已提起诉讼,指控学校过度依赖不可靠的AI技术并造成严重精神创伤。

全文

“小心你们的薯片袋”

受创青少年前往法院起诉学校和警察,此前多力多滋(Doritos)薯片袋误触发AI枪支警报

诉讼称:学区超过99%的AI枪支警报都是误报。

Ashley Belanger – 2026年11月19日 下午3:19 | 66

图片来源:busypix | iStock Unreleased

图片来源:busypix | iStock Unreleased

正文

尺寸 宽度 * 链接

* 仅限订阅者

了解更多

2025年10月,四名黑人高中生在橄榄球训练结束后分享酷爽牧场味多力多滋(Cool Ranch Doritos)薯片,在放松的同时等待家长接送回家。正是在这个任何参加课外活动的青少年都非常熟悉的轻松时刻,学校的AI枪支侦测系统突然将其中一名拿着一袋薯片的青少年标记为潜在枪手。

在两分钟内,审查了与该警报相关的安全摄像头录像的巴尔的摩县公立学校(Baltimore County Public Schools)官员断定并不存在实际威胁。他们认出了那个多力多滋(Doritos)薯片袋并取消了警报,该警报不仅通知了其他学校官员,还通知了巴尔的摩县警察局(Baltimore County Police Department)无需出警。

这个虚假警报本可以就此结束——在与警察发生令人精神创伤的校园冲突之前——但事实并非如此。

根据现任和前任学生塔基·艾伦(Taki Allen)、尤伊-奥萨·奥格贝德(Yui-Osa Ogbeide)、德文·汤普森(Devon Thompson Jr.)和基思·温菲尔德三世(Keith Winfield III)提起的一项诉讼,由于“技术和人为的双重错误”,学校官员还是叫来了警察,并且警察采取了强力应对措施。

至少有六辆警车闪烁着警灯赶到现场,一些警察下车时拔出了枪。诉讼称,这些青少年僵在原地并予以配合,他们感到困惑并为自己的生命感到恐惧。

诉讼称:“没有人告诉学生他们因何受到怀疑。警察将学生们隔离开来,命令他们双膝跪在水泥地上,给他们戴上手铐,并搜查了他们的身体和随身物品。”

直到警察没有搜出枪支,学生们才知道是学校的AI枪支侦测系统Omnilert引发了警察的出动。据称,一名出警警察嘟囔着“愚蠢的AI摄像头”和“他妈的Omnilert”,而另一名警察则告诉学生们“AI并不是最好的”。最后释放学生时,一名警察似乎承认他们将这些青少年置于危险之中。

据称这名警察说:“嘿,谢谢你们没有逃跑,那可就真是个大问题了。”另一名警察在走开时开玩笑说,这些男孩应该记住“小心你们的薯片袋”。

受到创伤的青少年

警察不仅将矛头指向涉嫌持枪的人,当其他青少年询问他们为什么被搜查时,警察显然还告诉他们“连带”有罪。

为了阻止其他青少年因官员对AI的盲目信任而面临据称生死攸关的处境,这些青少年提起诉讼,要求颁布禁令,禁止BCPS在能够有效建立协议以防止警察对虚假警报作出反应之前使用Omnilert。

诉讼称,学生们的宪法权利受到了侵犯,因为学生遭到非法的搜查和拘留。

民权法律委员会(Lawyers’ Committee for Civil Rights Under Law)的主席兼执行董事达蒙·休伊特(Damon Hewitt)表示,“过度依赖人工智能技术,加上关键官员之间笨拙的沟通和协调,是一个有毒的组合。”该委员会是一个无党派非营利组织,在诉讼中代表这些青少年。

起诉书指出,BCPS是最早采用Omnilert的机构之一,官员们曾将其吹捧为“最大规模的AI视觉枪支侦测部署”,以此作为据称保护学生的一种手段。然而,他们指控Omnilert在销售一款有缺陷的产品,宣称其达到“接近零的误报率”,却没有有效要求该声明所依赖的充分的人工审查。

休伊特说:“我们需要对AI的使用方式进行一次清算,特别是在公共安全和儿童方面。我们正在这场诉讼中为伸张正义而战,但这也为全国各地的教育工作者和警察官员敲响了警钟,他们在将我们孩子的命运交到AI手中之前应该三思而后行。”

事件发生后,所有青少年都感到在校园里不那么安全,对警察的信任度也降低了。他们还遭受了身体上的痛苦——包括手铐在手腕上留下的“深红色印记”——以及“急性且持久的情绪困扰、恐惧、焦虑”和“羞辱”。此外,青少年们报告说,谣言挥之不去,虚假地声称当时确实有枪,从而损害了他们的名誉。

接送学生的方式将永远改变。被误认为枪手的学生塔基·艾伦(Taki Allen)“不再觉得在校外等车或在放学后在校外待着安全”,并且“经常付费乘坐私人车服务回家,以避免等待朋友或家人的接送”。基思·温菲尔德(Keith Winfield)的家离学校非常近,但他的母亲弗里达·温菲尔德(Frieda Winfield)说,他的焦虑如此严重,以至于在足球训练结束后会“多次给她打电话,确认她正赶来接他”。

弗里达·温菲尔德因她儿子基思的惊心动魄的经历而呼吁改变。

“警察告诉我儿子,这本可以是真正的问题,”弗里达·温菲尔德说。“巴尔的摩县没有哪个孩子应该在等母亲接回家的时候,在自己学校外面面临这种危险。”

出了什么问题?

这群青少年的诉讼针对Omnilert以及响应的巴尔的摩县警察局官员。诉讼还挑战巴尔的摩县公立学校及个别学校官员,指控他们未能建立适当的协议,以防止对已取消警报的警察响应。

在后续调查中,教育监察长办公室(OIG)得出结论,Omnilert系统没有“偏见”。但OIG承认,肯伍德高中设立的“授权委派”流程并未阻止校长凯特·史密斯(Kate Smith)注意到警报,却未看到警报已被取消,并在15分钟后给学校资源官发送短信部署警察——同时在短信中承认警报中的对象“可能不是”枪支。报告显示,史密斯显然从未接受过Omnilert系统的培训。

OIG同意青少年的观点,认为应当进行改变。事发后,内部的Omnilert培训链接被分享给BCPS员工,OIG建议学校今后进行半年一次的培训。

他们还建议BCPS学校安全部门“审查其协议”,并减少接收校园枪支警报的人员数量。这有助于确保“内部通知控制得到遵循”,并让警察“充分了解已验证的威胁”,OIG如此表示。

如果不进行改变,OIG指出,“警报通知控制的丧失可能不仅使BCPS员工和学生面临风险,还可能使响应的执法部门陷入潜在的悲剧性局面”。

另一项改变提供了可能防止悲剧发生的技术方案。OIG建议学校官员改用Omnilert应用程序。由于史密斯是在手机的短信窗口中打开警报的,他们指出,如果她的第一反应是放大图像或查看摄像头录像,她本可以轻易忽略取消的短信。

这些建议对正在起诉的在校和前学生来说仍不够,其中一名仍在校的学生声称校长从未道歉,反而在与其他学校官员的短信中使用哭笑表情轻描淡写地处理此事。青少年指控史密斯本应知道“巴尔的摩县公立学校99%以上的OGD警报都是误报,不需要警察响应”,正如OIG报告所述,她本应把学生安全放在首位,并在召警前核实威胁。

“BCPS的失职等同于对学生宪法权利的蓄意漠视,”他们的诉讼声称。

青少年们请求法院下达禁令,禁止使用Omnilert,直至BCPS员工和警察接受充分培训。他们在投诉中称,现场的警官在响应前没有查看摄像头录像,也没有任何收到警报取消信息的警官进行干预。

BCPS保持沉默;Omnilert为技术辩护

BCPS拒绝对诉讼发表评论,只向Ars转发了事发后向家长发布的声明。该声明并未直接向学生道歉,但表示学校将为他们提供“持续的辅导和情感支持”,并承诺采取措施防止未来事件。

Omnilert市场副总裁布莱克·米切尔(Blake Mitchell)告诉Ars,Omnilert正在审查此投诉。

“这四名学生在2025年10月20日经历的事情本不该发生,我们对他们及其家庭所感受到的恐惧深表歉意,”米切尔说。“我们理解他们为何想要答案。”

Mitchell说,Omnilert“旨在将任何可能是枪支的东西发送给受过训练的人进行审查,因为漏掉真实枪支是最糟糕的结果”。他还重申,OIG调查发现Omnilert系统没有偏见,并似乎同意是学校的权力下放导致学生受害,而不一定是技术本身的错。

“在这种情况下,学校指定的安全人员审查了警报并在大约两分钟内将其取消,所有收到警报的人都被通知,”Mitchell说。“这正是人工审查重要的原因,也是取消的警报必须保持取消状态的原因。”

代表青少年的律师委员会的Len Kamdang对《纽约时报》说,青少年希望BCPS和Omnilert承认“他们所经历的事情是不可接受的”。

“这个案件归根结底是关于人类让AI取代他们判断的问题,”Kamdang说。

作为一名母亲,Frieda Winfield对当地媒体表示,她对这起事件感到震惊,尽管她一直在教儿子在警察面前保持警惕。她说,男孩们的谨慎“在我看来拯救了他们的生命”。

“我很生气。我很害怕,”Frieda Winfield说。“最主要的是恐惧,因为他们是年轻人。年轻的黑人男性,他们在学校里,却不明白为什么会发生这样的事。”

Kamdang对《纽约时报》说:“对于有孩子的任何人来说,这都是一种可怕、可怕的情形。对于一名黑人学生,尤其是美国的年轻黑人男性来说,这是一场生死攸关的局面。”

随着AI工具日益被定位为公共安全解决方案,律师委员会在其新闻稿中表示,当警察或官员盲目信任AI时,他们正在推动警务改革。他们指出,“这种不公也引发了对在公共安全中使用和依赖AI技术的更广泛担忧,因为在生死关头的准确性至关重要”。

Ashley Belanger 高级政策记者

Ashley Belanger 高级政策记者

Ashley是Ars Technica的高级政策记者,专注于追踪新兴政策和新技术的社会影响。她是一名驻芝加哥的记者,拥有20年的从业经验。

66 条评论

正文为 AI 译文。

参考来源

← 返回每日AI报告