底特律修改面部识别使用规则以应对多起虚假逮捕事件

来自 至少尝试修复损坏的内容 部門

全部 面部识别技术存在缺陷。有些产品可能缺陷较少，但潜在的问题（主要是在识别少数族裔和女性时无法准确识别）仍然存在。

在底特律，问题很快就变得十分严重。数百家美国执法机构都在使用面部识别技术，但底特律警察局在这方面做得尤其糟糕。

这里的主要问题不一定是软件，该软件由 DataWorks Plus 提供。而是在于使用它的警官。警官们没有遵循 DataWorks 提供的内部规则和指导，这些规则和指导明确规定潜在的匹配不应被视为逮捕的可能原因，而是决定追捕算法建议的任何人 可能 匹配。

到 2020 年中，底特律警察局及其技术已与两起错误逮捕有关。几年后又发生了第三起。这些可能不是与该技术有关的唯一错误逮捕，但这三起引发了诉讼。

其中一项诉讼已达成和解，改变了底特律警察局使用该技术的方式， 希望减少这个以底特律警察局为中心的问题正如《克什米尔山》为《纽约时报》报道的那样。

2020 年 1 月，罗伯特·威廉姆斯 (Robert Williams) 在底特律监狱服刑 30 小时，因为面部识别技术显示他是一名罪犯。匹配错误，威廉姆斯先生提起诉讼。

周五，作为 法律解决 威廉姆斯因被错误逮捕而得到底特律警察局的承诺，将做得更好。该市制定了警察使用面部识别技术的新规则，代表威廉姆斯的美国公民自由联盟表示，这应该成为新的国家标准。

威廉姆斯先生说：“我们希望它能够朝着正确的方向发展。”

底特律警察局的警察不计后果地使用搜索结果，在很短的时间内就暴露了该技术的多重局限性。第一次错误逮捕涉及一名 显然他不可能是嫌疑人 如果警察费心查看他的脸以外的情况，情况会更糟。调查人员使用的嫌疑纵火犯的录像显示嫌疑犯裸露着手臂。被捕者的手臂上布满了纹身。

另一起逮捕涉及一名孕妇 尽管她显然无法（怀孕八个月）实施劫车，但她还是被警察局的软件选中作为匹配对象。（或者，即使她可以，那也是犯罪受害者指出的最值得注意的事情。）

第三起案件是获得这项重要和解的案件。罗伯特·威廉姆斯因珠宝店抢劫案被捕后起诉了警察局和逮捕他的警察，而他并没有犯下抢劫罪。调查人员（我轻描淡写地使用这个词）曾参与过其他虚假逮捕，这些逮捕源于过度依赖面部识别搜索结果。在本案中，他们使用商店闭路电视的低分辨率屏幕截图进行搜索，尽管这张照片只能产生垃圾结果。

由于不采取任何行动将导致这种事情继续发生，底特律市同意 沉降 [PDF] 该法案改变了警察使用面部识别搜索结果的方式。最重要的变化是，除非调查人员有其他证据证明该人与犯罪有关，否则警察将不再能够向目击者展示通过面部识别技术找到的人的图像。

还有更多的规定和限制。

该部门还在改变照片比对的方式。它采用了所谓的双盲顺序法，这被认为是一种更公平的识别某人的方法。一名不知道主要嫌疑人是谁的警官不是向证人展示“六人组”，而是一次展示一张照片。而且比对中包括一张与面部识别系统显示的照片不同的人的照片。

警方还需要披露是否进行了人脸搜索，以及被搜索人脸图像的质量——监控摄像头的模糊程度如何？嫌疑人的脸部清晰可见吗？——因为质量差的图像不太可能产生可靠的结果。他们还必须透露自动系统显示的照片的年代，以及数据库中是否有其他未显示匹配的照片。

这应该有助于限制此类损害的发生。但也许这座城市应该审视一下这项技术本身，它似乎比大多数技术都存在更多缺陷。早在 2020 年，当这些故事首次浮出水面时，就连警察局长似乎也不以为然，他告诉市政府官员，该软件“96% 的时间”都会误认人。

确保它不是获取逮捕令的唯一工具将有助于消除一些误差。另一方面，也许是时候找到其他提供更准确产品的供应商了。或者更好的是，完全停止使用它，因为对于所涉及的所有技术而言，它似乎并不比普通目击者更可靠。

归档于：底特律、底特律警察局、面部识别、错误逮捕、误报

公司：dataworks plus