返回资讯中心
外部精选
软件工程
#开发者实时流

美国四名黑人学生起诉AI枪支检测系统误报多力多滋薯片为枪

来源标题:Black high school students sue after AI mistakes Doritos bag for gun

四名黑人或曾是学生的黑人青年起诉AI枪支检测公司Omnilert、巴尔的摩县公立学区及警方,称Omnilert Gun Detect系统将一袋多力多滋薯片误判为枪支,导致他们被武装警察包围、非法拘留和搜查。事件发生于2025年10月马里兰州Kenwood高中。律师民权委员会代表四名青少年提起此案。

Hacker News 最新DeepLogin2026/11/19 · 今天15 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

案件聚焦于AI系统涉嫌失灵的方方面面及其对学生的影响

马里兰州巴尔的摩县——今日,民权律师委员会代表四名黑人在读及已毕业学生,对Omnilert, LLC、巴尔的摩县公立学校(BCPS)及其工作人员、巴尔的摩县警察局及涉事警员提起诉讼,指控因AI武器检测监控系统在技术和人为层面出现的失误,导致这些学生遭到非法拘留和搜查。在Allen等人诉Omnilert等一案中,民权律师委员会代理四名青少年——Taki Allen、Yui-Osa Ogbeide、Devon Thompson Jr.和Keith Winfield III。Willkie Farr & Gallagher LLP作为公益法律顾问、Engel Law Group, P.C.共同参与代理。

这起诉讼源于2025年10月发生的事件:巴尔的摩县公立学校广泛使用的AI枪支检测系统Omnilert Gun Detect,在马里兰州巴尔的摩县Kenwood高中将一名青少年的薯片袋误判为枪支。这一误报最终导致当地武装警察蜂拥至校园,在距离学校入口仅几步之遥的地方将这几名青少年团团围住。他们被勒令下跪、戴上手铐并遭到搜查,尽管他们并未做错任何事。

AI监控系统的错误触发了误报,并引发了一连串人为失误——从Omnilert自己的员工、校长到巴尔的摩县警察局,所有人都遗漏或无视了明确证据,即现场并无枪支。校方官员明知该系统经常产生误报,而此次系统却错误地通知学校,称校园内存在枪支的概率高达90%;即便在学校工作人员和当地警方查看了图像并认定这是一次误判之后,该警报仍在持续。学校和警方官员最终取消了警报,但武装警察仍被派出,原因是学校和警方缺乏足够的规程,无法阻止已取消的警报触发武装警察响应。

“这些学生不仅被一个容易误报的技术所辜负,也被那些本应在我们把孩子送到学校时保护他们安全的成年人所辜负。他们等来的不是保护,而是枪支和创伤。而情况本可能更糟,”民权律师委员会主席兼执行主任Damon Hewitt表示。“对人工智能技术的过度依赖,加上关键官员之间沟通与协调的无能,是一种有毒的组合。我们需要重新审视AI的使用方式,尤其是在公共安全和儿童相关的问题上。我们正在为本案争取正义,但此案也为全国的教育工作者和警方官员提供了教训——在把我们孩子的命运交到AI手中之前,他们应当三思。”

“不受监管的AI会带来深远后果,尤其是在涉及年轻人的时候。随着这项技术被更广泛地采用,不能以牺牲明确的法规、防护措施和对与之互动的成年人的期望为代价,”民权律师委员会数字正义倡议主任Leah Frazier表示。“这本来就不该升级到警察介入。这件事根本不该发生,我们提起诉讼就是为了防止此类事件再次发生。”

“警察告诉我儿子,这本来可能是个真问题。巴尔的摩县不该有任何孩子在等母亲开车来接自己回家时,在自己学校门口面临这种危险,”Freida Winfield说道。当时她正开车去接儿子Keith和其他学生,结果他们全都被勒令下跪、戴上手铐并遭到搜查。

通过这起诉讼,民权律师委员会寻求改革当地警方和学校的程序,以确保这些公共机构核实来自AI威胁检测平台的报告、评估该AI技术是否适合在学校使用,并制定足够的政策以确保误报不会触发武装警察响应。

民权律师委员会主张,警方和学校需要在错误与结果方面加强培训、监督和透明度,并在该技术的使用方式上听取社区意见。

这起不公正事件也引发了更广泛的担忧:在生死攸关、准确性至关重要的公共安全场景中,AI技术的使用与可靠性究竟如何。正因如此,民权律师委员会一直大声呼吁对AI技术在这些关键领域的使用进行评估和监管,尤其是考虑到任何危害和不准确都会对黑人社区及其他有色人种群体造成不成比例的冲击。在刑事司法领域,这一点尤为如此。

民权律师委员会已向马里兰州巴尔的摩县巡回法院提起诉讼。起诉书指控被告——包括Omnilert、巴尔的摩县学校官员和巴尔的摩县警察局警员——侵犯了这些青少年的联邦和州宪法权利,构成过失和重大过失,以及其他违法行为。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →