
马里兰州四名高中生起诉:AI误将多力多滋零食袋识别为枪支致其被警方拘留
来源标题:Four Maryland high school students sue after AI mistakes Doritos bag for gun
马里兰州四名高中(前)学生起诉AI枪支检测系统开发商Omnilert、巴尔的摩县警方、教育委员会及涉事警员和校长。2024年,AI将一袋多力多滋误判为枪支,导致这些等待家长接送的橄榄球队员被武装警察戴上手铐拘留。原告称此事令他们“受到创伤”“害怕失去生命”。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
马里兰州四名高中生起诉:AI将多力多滋薯片袋误认为枪支
2025年10月20日,巴尔的摩县警察局视频截图显示马里兰州一所高中的学生被错误拘留。照片:巴尔的摩县警察局 全屏查看图片 2025年10月20日,巴尔的摩县警察局视频截图显示马里兰州一所高中的学生被错误拘留。照片:巴尔的摩县警察局
马里兰 马里兰州四名高中生起诉:AI将多力多滋薯片袋误认为枪支 橄榄球队员称他们在等车回家时被戴上手铐拘留,因此“受到心理创伤” 在Google上关注《卫报》
马里兰州一所高中的四名在校生和往届学生提起诉讼。一年前,武装警察因AI警报将一袋多力多滋薯片误认为枪支而将他们拘留,这起事件让他们“担心自己有生命危险”。
原告起诉了AI枪支检测系统背后的公司Omnilert、巴尔的摩县警方、教育委员会、涉事警员以及校长,指控他们因技术和人为失误而对原告实施了非法拘留和搜查。
“这些学生不仅被一个容易误报的技术辜负了,也被那些本应在我们把孩子送到学校时保护他们安全的成年人辜负了,”代表这些学生的律师民权Under Law委员会主席兼执行主任Damon Hewitt说。“他们没有受到保护,反而面对枪支,受到心理创伤。情况本来可能更糟。”
事件发生在去年秋天。根据起诉书,10月20日晚,学生们刚结束橄榄球训练,教练给队员们分发了几袋多力多滋。当时读高三的Taki Allen拿了几袋,和朋友们在野餐桌附近等车,这时六辆当地警车闪着警灯出现。起诉书称,许多警员拔出武器,学生们举起了双手。
起诉书称,原告“在被武装警员拦下、命令下跪、戴上手铐并搜查后,感到震惊,担心自己有生命危险”。据称,一名警员离开现场时对他们说:“嘿,谢谢你们没有逃跑,逃跑的话就真成问题了。”
起诉书描述了一系列混乱事件:Omnilert的AI枪支检测系统以90%的置信度将薯片袋标记为枪支。Omnilert Gun Detect系统会扫描监控画面以寻找枪支迹象。起诉书称:“即使学校工作人员和当地警方查看了图像并确定是误报,警报仍在继续。”
虽然Omnilert将其产品宣传为可靠并能带来“更少的误报”,但起诉书指出,马里兰州教育监察长办公室“发现巴尔的摩县公立学校超过99%的OGD警报都是误报,无需警方响应”。
Omnilert、校长、巴尔的摩警方和教育委员会没有立即回应《卫报》的置评请求。
Omnilert的一位发言人此前告诉《巴尔的摩旗帜报》,公司正在审查这起诉讼,“对你们和你们的家人所经历的恐惧深表歉意。我们理解你们为什么想要答案。”巴尔的摩县的一位发言人告诉《纽约时报》,该学区无法对未决诉讼置评。
起诉书还附有校长发给其他管理人员的短信,她在短信中用笑哭的表情符号拿这件事开玩笑。起诉书称她没有向学生们道歉。
据称,一名警员在开始离开现场时说:“该死的Omnialerts”以及“愚蠢的AI摄像头”。据称他的同事对原告开玩笑说:“在学校里要小心,尤其是拿着那样的东西……小心你们的薯片袋。”
起诉书称,学生们并不觉得这好笑,他们报告说紧手铐带来疼痛,还遭受了持久的情绪困扰。
Taki Allen说,他不再觉得等车或放学后在学校闲逛是安全的;他经常付费打车回家,以免等朋友或家人来接。
Freida Winfield的儿子Keith是诉讼当事人之一。她当时正在去接他和他的朋友们的路上,他们就被拘留了。“巴尔的摩县不应该有任何孩子在 own学校外面等母亲接他回家时面临这种危险,”Winfield说。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。