英零售商用Facewatch人脸识别误标大量顾客为盗窃嫌疑人

有缺陷的AI人脸识别系统正以惊人的数量错误指控商店偷窃

被Facewatch错误标记的英国无辜购物者，需要在共享的零售商监控名单之间展开长达数月的数据抗争来洗清名声

LinkedIn 在互联网与科技领域从业五年多，我对PC硬件和外设产生了浓厚的兴趣。我习惯于不断研究，始终渴望了解更多，这让我的知识面从PC和键盘扩展到了电视、耳机，甚至吸尘器。 Alex Barrientos 的全部文章 → LinkedIn 在互联网与科技领域从业五年多，我对PC硬件和外设产生了浓厚的兴趣。我习惯于不断研究，始终渴望了解更多，这让我的知识面从PC和键盘扩展到了电视、耳机，甚至吸尘器。 全部文章作者 一名男子和妻子走进一家Home Bargains门店购买维生素。他离开时却被指控偷窃，被要求离开，而且受到的惊吓之大，据TechRadar报道，他后来说：“我害怕走进商店。”

这句话值得停下来想一想。他害怕的不是被抢劫，而是害怕穿过一扇门。

Facewatch的运行方式是绘制购物者的面部几何特征，并将其与一份名单进行比对，名单上的人被认为有合理理由怀疑涉及犯罪。根据Big Brother Watch的研究，参与的零售商包括Home Bargains、B&M、Budgens、Costcutter和Sports Direct。这类监控应用基础设施引发了严重质疑：生物识别数据是如何被收集并用于对付平民的。

当系统发现可能的匹配时，会提醒员工。可能的匹配并不能证明任何事情。然而在有记录的案例中，警报被当作足以证明对抗、搜查包袋、驱离和禁止入店的依据。

公民自由组织Big Brother Watch记录了多起无辜购物者被标记、被指控、其数据在零售商之间共享的案例。

Big Brother Watch报道了Danielle Horan的案例，她被错误地列入Facewatch的监控名单，并被贴上小偷的标签。尽管她是无辜的，却两次被指控并被逐出商店，参与的零售商还共享了她的生物识别数据——ICO已确认这种做法是Facewatch共享全国监控名单系统的一部分。

Facewatch的系统还在Home Bargains标记了一名被研究称为Sara的青少年。她遭到包袋搜查，并被告知她已被禁止进入其他使用该软件的零售商门店。据Big Brother Watch称，Facewatch后来承认，其技术和一名人类“超级识别者”都将她误认为了另一个人。

在一家Budgens门店，一名女子被指控偷窃“大量肉类”，尽管这对夫妇表示他们已经数月没有去过那家店。据TechRadar报道，她的丈夫“从头到脚都在发抖”。

技术提供商与零售商之间的责任划分，让被错误指控的购物者夹在双方之间，各自把责任推给对方。

Facewatch对TechRadar表示，它“对自己的技术和流程负责，而零售商对其员工如何与顾客互动负责”。这种划分听起来井然有序。但在实践中，当零售商依据错误警报采取行动，并将由此产生的禁令共享给合作门店时，伤害跨越了这条分界线的两侧。

TechRadar报道称，Sainsbury's在一名无辜购物者被逐出后暂停了人脸识别警报，后来又恢复了实时警报。Sainsbury's拒绝置评，并将数据隐私问题转给了Facewatch。

英国的数据保护法为被错误标记的购物者提供了对所受遭遇提出异议的正式途径，但公民自由倡导者表示，这一过程给本应受其保护的人带来了不公平的负担。

英国法律赋予受影响者提出主体访问请求（Subject Access Request）的权利，允许他们要求某个组织告知其持有的关于自己的个人数据。信息专员办公室（ICO）表示，组织通常有一个月的时间作出回应，不过在复杂案件中可能适用延期，并且可能需要进行身份验证。

据TechRadar援引，Big Brother Watch将这一过程描述为一场官僚折磨。为了了解自己为什么被标记，人们可能被要求向那个指控自己的组织提供额外的身份信息。据TechRadar报道，ICO称被错误标记的购物者的遭遇“令人痛心”，而这类案例也呼应了更广泛的担忧：在缺乏有意义的同意或救济途径的情况下秘密追踪用户。值得注意的是，ICO还得出结论，认为不需要对Facewatch采取监管行动，同时建议持续审计、审查隐私政策并监测风险。

在零售商公布有意义的性能数据、独立审计在不同条件下测试准确性之前，公众无从评估该系统出错的频率。

Facewatch表示其系统在数千家门店中运行良好，并警告不要将有记录的错误识别案例视为典型情况。这一辩护需要可验证的数字支撑。参与的零售商产生了多少警报，其中有多大比例导致确认匹配？

本文所查阅的研究并未发现有任何公开可得的独立审计来衡量其在年龄、种族、性别、光线和摄像头条件下的表现。零售商应当公布警报数量和错误匹配率。门店之间的名单共享需要明确的控制措施和限制。公众对公共场所自动化监控网络的抵制表明，社区正日益要求这些系统承担责任。

最紧迫的是，员工需要明确的指导：算法警报是谨慎调查的提示，而不是指控。技术或许会进步。但问责结构需要进步得更快。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）