伦敦地铁正在测试实时人工智能监控工具来发现犯罪

为了回应《连线》杂志的信息自由要求，伦敦交通局表示，它使用现有的闭路电视图像、人工智能算法和“众多检测模型”来检测行为模式。 回复称：“通过向车站工作人员提供有关顾客活动和行为的见解和通知，他们将有望能够更快地应对任何情况。” 它还表示，该试验提供了对逃票行为的深入了解，这将“帮助我们采取未来的方法和干预措施”，并且收集的数据与其 数据政策。

在本文发表后发出的一份声明中，伦敦交通局政策和社区安全主管曼迪·麦格雷戈表示，正在继续分析试验结果，并补充说，从试验中收集的数据“没有证据表明存在偏见”。 麦格雷戈说，在试验期间，车站没有任何迹象表明人工智能监视工具的测试。

“我们目前正在考虑第二阶段试验的设计和范围。 目前还没有就扩大这项技术的使用做出其他决定，无论是增加站点还是增加能力。” 麦格雷戈说。 “除了试点之外，该技术的任何更广泛的推广都将取决于与当地社区和其他相关利益相关者（包括该领域的专家）的充分协商。”

计算机视觉系统， 例如测试中使用的那些，其工作原理是尝试检测图像和视频中的物体和人物。 在伦敦试验期间，将经过训练以检测某些行为或动作的算法与地铁站已有 20 年历史的闭路电视摄像机的图像相结合，每十分之一秒分析一次图像。 当系统检测到 11 种有问题的行为或事件之一时，它会向车站工作人员的 iPad 或计算机发出警报。 文件称，伦敦交通局工作人员收到了 19,000 个警报，可能需要采取行动，另外还有 25,000 个警报用于分析目的。

系统试图识别的类别包括：人群流动、未经授权的进入、防护、行动协助、犯罪和反社会行为、轨道上的人、受伤或不适的人、垃圾或湿地板等危险、无人看管的物品、滞留的顾客以及逃票。 每个都有多个子类别。

数字版权组织 Access Now 的高级政策分析师丹尼尔·洛伊弗 (Daniel Leufer) 表示，每当他看到任何系统进行此类监控时，他首先要寻找的是该系统是否试图发现攻击行为或犯罪行为。 “摄像头将通过识别肢体语言和行为来做到这一点，”他说。 “你需要什么样的数据集来训练一些东西？”

伦敦交通局的试验报告称，它“希望将侵略行为纳入其中”，但发现“无法成功检测到”这些行为。 它还补充说，缺乏训练数据——不包括侵略行为的其他原因被掩盖了。 相反，当有人举起手臂时，系统会发出警报，文件中将其描述为“与攻击行为相关的常见行为”。

Leufer 表示：“训练数据总是不足，因为这些事情可能过于复杂和细致，无法在具有必要细微差别的数据集中正确捕获。”他指出，伦敦交通局承认自己没有足够的训练数据，这是积极的。 “我非常怀疑机器学习系统是否可以用来可靠地检测攻击行为，而不仅仅是复制现有的社会偏见，即公共场所可接受的行为类型。” 根据《连线》收到的文件，总共有 66 个针对攻击性行为的警报，其中包括测试数据。