利用警局数据 IBM对象识别软件根据肤色识别身份

作者:nana, 星期五, 九月 14, 2018
来源:https://www.aqniu.com/news-views/38600.html

2001年的9/11恐袭迅猛推高了全世界的安全意识,尤其是事发地纽约。纽约警局(NPYD)在遇袭后的10年里大幅增强了其监视能力。

最近一份报告宣称,IBM利用这些摄像头的数据,训练其视频监视软件根据肤色来给人打标签。

据泄密网站 The Intercept 的消息,9/11之后司法机构对IBM视频分析软件的需求急剧上升。因为能够运用对象识别技术标记人员,该软件可集成进公共摄像头以搜索恐怖分子嫌疑人。另外,无人看管的行李、非法侵入者等等也可以用这套软件加以识别。

自动化该识别过程可以让用户迅速搜索时长数小时的录像,找出匹配特定描述的个人。

The Intercept 已经看过了揭示IBM开始接入NYPD摄像头网络开发其软件的机密文档。

警局在邮件中称,我们不时提供视频给IBM以确保他们正在开发的产品适用于纽约市人流密集的环境,帮助我们保卫这座城市。NYPD与IBM签订的协议中没有禁止出于系统开发目的的数据共享。

另外,与NYPD签约的所有供应商都被要求在协议存续期间、履约后和意外终止时,均保证NYPD提供的数据是保密的。

NYPD证实,一些反恐警官早在2012年夏天就可使用带肤色识别功能的预发布版本。尽管发言人 Peter Donald 说警官们被指示不要用这个功能来做判断。

警局一直没用上这款分析软件,并在2016年结束了与IBM的合作。Donald称他没发现有任何案例在逮捕或起诉中使用了IBM技术。

IBM在2016年底或2017年初开发了2.0版本,新增根据种族追踪并提供诸如“亚洲”、“白种”或“黑种”等标签的功能。据Donald所言,警局“因为该带种族歧视的功能而明确拒绝了该产品。”

其他组织机构并没有这种愧疚感。加州大学北岭分校的校警就表示,他们一直在用带这项功能的IBM工具跟踪罪犯,有时候甚至用于监视学生抗议者。

与人脸识别技术不同,对象识别几乎不在隐私维权人士的雷达范围内。但公民自由倡导者如今宣称,已经注意到了大规模种族形象定性的可能性。

技术无罪,但有可能被滥用。

无论作恶者是不是穆斯林,通常都会假设他/她是。不难想象,司法机构会直接得出有关嫌疑人种族和宗教信仰身份的结论,匆忙查询视频数据库并梳理出符合该外形描述的人,然后招人进来问询。

对象识别系统可能仅仅因为符合了一些常见外形特征,就不公正地指认某人是疑犯。

比如说,给出一个笼统的描述,类似“穿兜帽衫的年轻黑人男性”这种,该软件的内部算法会标识出视频中距离事发现场几个街区的某行人。警察找个借口拦下他,说他符合之前某事件嫌疑人的特征描述什么的。

而且,NYPD帮助IBM的方式,已经设立了一个危险的先例:

没什么事是真正意义上的“别人家的事”。公共空间里也不用期待会有什么隐私。于是,如何打造工具来实现监视就值得商榷了。这也正是为什么此类知识应更为广而告之的原因所在——为方便找出真正的解决方案。

揭示IBM开始接入NYPD摄像头网络开发其软件的机密文档原文:

www.documentcloud.org/documents/4452844-IBM-SVS-Analytics-4-0-Plan-Update-for-NYPD-6.html