AI提供假证！65岁老人含冤入狱近一年，两次患上新冠险些自杀

含冤入狱近一年！

一名65岁的黑人男性被控枪杀25岁男厨师。

案发现场没有目击者，没有凶器，也没有杀人动机。

唯一的入狱证据就只有AI识别出的枪声。

不到一年的时间，他在狱中两次感染新冠肺炎，留下了双手颤抖的后遗症。

从每天能给妻子打三个电话，到每周只有几小时的通话时间，险些就打算在狱中服药了结自己的生命。

但幸好，他在上个月因证据不足而释放，以自由人的身份重回高墙之外。

大难不死，未必有福

据受害人家属称，受害者Safarian Herring是一位有着雄心壮志的厨师，希望日后能够做出一番成就。

但事情总是来得那么突然。

去年8月，「黑命贵」事件引发了很多社区骚乱事件。

就在某个深夜，迈克尔·威廉姆斯打算在当地的一家加油站买烟，加油站却在骚乱中遭到洗劫。正打算直接开车回家，威廉姆斯在路上却遇到了希望搭便车的受害者Herring。

两人的悲剧就此发生。

涉事加油站

根据威廉姆斯的证供，在开车途中，两人在十字路口遭到另一辆车的枪击，Herring中枪流血，威廉姆斯马上送他去附近的医院。

但可惜，Herring没能扛过去，不治身亡。

很幸运，威廉姆斯没有被子弹击中，但他的不幸才刚刚开始。

迈克尔·威廉姆斯

当地社区安装了ShotSpotter系统，这个系统提供的证据称，威廉姆斯就是杀害Herring的凶手。

ShotSpotter取证报告

这是一个能够使用声学传感器和AI算法来帮助警方检测目标地理区域枪声的系统。

ShotSpotter公司在大约25年前成立，自称是「精确警务技术解决方案的领导者，使执法部门能够更有效地应对、调查和威慑犯罪」。

ShotSpotter官网首页

但讽刺的是，ShotSpotter将案发现场的这个巨大声响识别为烟花爆竹，置信度还高达98%。并且将地址定位到5700 S 湖滨大道。

然而不到一分钟，一名员工推翻了系统的判断，将声音重新分类为一声枪响。

随后，经过「后期处理分析」，声音的定位被转移到了威廉姆斯正在行驶的区域，芝加哥南石岛大道和东63街的十字路口。

（1）AI最初识别位置；（2）人工分析之后修正位置

就这样，警方依据ShotSpotter的「证供」，将威廉姆斯拘捕入狱。

位于事发十字路口的ShotSpotter设备

AI提供的入狱证据，可信吗？

对于此次事件，ShotSpotter公司认为，它曾警告检察官不要依靠其技术来检测车辆或建筑物内的枪声。

但ShotSpotter拒绝透露，在威廉姆斯近一年的监禁期间，公司是在什么时候与检察官取得联系的。

也拒绝透露，鉴于该系统难以识别封闭空间内的枪声，ShotSpotter为什么要为据称是在威廉姆斯的车内发射的枪声准备一份法证报告。

该报告本身包含矛盾的信息，表明该技术事实上在汽车内是有效的。

ShotSpotter首席执行官Clark拒绝对此案发表评论，但在一份后续声明中，该公司含糊其辞地表示：在 「某些条件下」，该系统实际上可以识别车内枪声。

威廉姆斯的律师Max说，检察官从未向他透露过这些信息，而是在他传唤ShotSpotter公司与州检察官的通信两个月后撤销了指控。

芝加哥警察局在使用预测和跟踪ShotSpotter技术工作

今年4月，一篇研究考察了1999年至2016年68个县的ShotSpotter系统，这也是迄今为止最大的一次调查。

ShotSpotter声称可以利用传感器、算法和人工智能，将其专有数据库中的1400万个声音分类为枪声或其他声音，以减少枪支暴力。

但研究结果却发现，这项技术并没有减少枪支暴力，也没有提高社区安全。

垃圾箱、卡车、摩托车、直升机、烟花、垃圾收集，甚至是教堂的钟声，都会让ShotSpotter误以为这些声音是枪声。

但面对真正的枪声，ShotSpotter却没法识别出来。

在2016年的案件中，一名纽约男子Silvon Simmons在罗切斯特警察拦下他所乘坐的车辆后被枪杀。

警察声称Simmons先向他们开枪，现场却没有实物证据证明这一说法。

而ShotSpotter最初并没有报告在现场发现任何枪声，它将枪声归类为「直升机旋翼」。

当警方找到该公司时，该公司的一名分析师最终认定，这些旋翼的声音实际上是四声枪响——也就是警方向Simmons开枪的次数。

警察要求分析师识别有没有其它枪声。这时，他发现了第五个枪声。

Simmons针对ShotSpotter和警察局的民事诉讼摘录

最终，陪审团宣告Simmons谋杀未遂，法官推翻了他持有枪支的定罪，理由是ShotSpotter不可靠。

而在今年3月29日凌晨2点30分左右，21岁的鲁本·罗曼开枪射击，ShotSpotter却将该枪声定位在13岁亚当·托莱多 (Adam Toledo) 所在的位置。

警方对托莱多进行追捕，最终开枪击毙了这个手无寸铁的13岁男孩。

视频显示警方命令托莱多停下来并举高双手

此外，在2017年旧金山的一起谋杀案审判中，一名分析师将其最初的警报地点移到了一个街区之外，突然就与犯罪现场相匹配了。

游戏规则的改变者

这项技术已经在美国大大小小约120个城市安装，每年每平方英里的成本高达95,000美元。

ShotSpotter数据越来越多地用于法庭案件，检测嫌疑人是否在犯罪现场或现场附近，该公司声称其证据已用于近200起法庭案件。

该系统通常是应当地官员的要求安装在被认为是枪支暴力风险最高的社区，而这些社区往往聚集了许多黑人和拉丁裔。

ShotSpotter系统的声学传感器会被安装在建筑物、电线杆和路灯上。其工作原理如下：

1. 当枪声爆发时，声音会向外辐射。多个传感器对声音进行检测和时间标记，并对其位置进行三角定位。
2. ShotSpotter的算法对其传感器接收到的声音类型进行分类，如枪声或鞭炮声。
3. 一旦警报生成，就会发送给审查中心的工作人员，他们会分析每一个警报，判断该声音是否是枪声。
4. 之后，警报被发送到警方，警方派遣警察到现场。

ShotSpotter的工作原理示意图

不过，公司表示不会公布ShotSpotter的算法和传感器的位置。

此外，公司还屏蔽了系统的内部数据和记录，使其他人无法了解其工作原理的具体细节。

近年来，ShotSpotter公司的知名度不断提高。

美国政府在包括ShotSpotter在内的枪击检测系统上花费了超过690万美元的可支配拨款和专项资金。

各州和地方政府还花费了数百万美元，从联邦税收的单独资金中购买该系统。

ShotSpotter官网描述

执法官员说，ShotSpotter能让警察更快到达犯罪现场，并帮助现金紧张的公共安全机构更好地部署资源。

俄亥俄州托莱多市警察局长在芝加哥举行的2019年国际警察局长协会会议上说：「ShotSpotter已成为我们解决枪支暴力问题的最重要工具之一」。

潜在问题

ShotSpotter公司说，他们在不断地微调其机器学习模型，通过让侦探和调查员向其系统添加犯罪现场的观察结果来识别什么是枪声和什么不是枪声。

作为这一过程的一部分，他们称之为「基准真相」，ShotSpotter要求巡逻人员使用其软件添加和记录弹壳、弹孔，收集证人证词和其他「枪声证据」。

ShotSpotter公司首席执行官Ralph Clark

Clark表示：「我们有机会使机器分类越来越好，因为我们从人类那里得到了真实世界的反馈。」

然而，有多位专家警告说：「如果警察有意或者无意中，提交了不完整或不正确的数据，那么由此就会训练出错误的模型。」

乔治敦法学院隐私与技术中心的Clare Garvie说：「ShotSpotter在该系统中建立了一个固有的不确定性，而且还告诉系统这些数据没有问题，因此污染了系统的可靠性。」