文|AI报道

近日，旧金山宣布了一个“减少偏见的工具”，并计划在7月1日实施。该工具使用基本的人工智能技术，可以自动修改警方报告中的信息，从而识别嫌疑人的种族。这个工具主要是用来防止检察官在决定某人是否被控犯罪时受到种族偏见的影响。

但在2019年5月的时候，旧金山市对人脸识别技术发出了禁令，禁止该技术在政府机关和执法机关中使用，从而成为全球首个对人脸识别技术发出禁令的城市。

那么问题来了，既然已经下发禁令，为何又在短时间内宣布使用这项人工智能人脸识别工具？

旧金山发出人脸识别禁令

美国的人脸识别技术一直走在科技前沿，比如谷歌云 Vision API、IBM Watson Visual Recognition 和微软的 Face API。包括亚马逊(Amazon)和科瑞法伊(Clarifai)在内的多家研究所公司一直致力于开发可靠的面部识别技术，供政府机构和执法部门使用，以抓捕罪犯和寻找失踪儿童。

亚马逊的人脸识别软件 Rekognition，可以实时识别、分析和跟踪用户。在几秒钟内，该软件就可以将它收集到的信息与包含数百万张图像的数据库进行比较。执法机构可以使用该技术帮助寻找失踪人员，并确定恐怖袭击的嫌疑人。尽管这项技术可能会给社会治安带来好处，但却遭到许多关心种族偏见和隐私问题的公民的反对。美国公民自由联盟（American Civil Liberties Union，ACLU）曾“上书”政府：亚马逊应该停止向美国政府提供强大且“危险”的人脸识别系统 Rekognition。

今年五月，旧金山成为美国第一个禁止警察和市政机构使用面部识别技术的城市。这一禁令是由于担心面部识别监控不公平，从而针对某些社会成员，尤其是有色人种，并对他们进行不正恰当的描述。据CPO杂志报道，当执法机构采用这种技术时，他们通常会在高犯罪率、低收入的社区推广，而这些社区中有色人种所占的比例尤其高。

“如果警察把非常主观、经过高度编辑的信息或错误的信息输入他们的系统，人脸识别算法有多精确并不重要，”隐私与技术中心(Center on Privacy and Technology)专门从事人脸识别的高级助理Clare Garvie在接受 NBC News采访时说，“他们不会得到正确的信息和有价值的线索。这样有很高的误认风险。如果他们使用它而不与辩护律师分享，就违反了正当程序。”

加利福尼亚州奥克兰市也在考虑类似旧金山的立法。马萨诸塞州正在考虑暂停使用面部识别软件，直到该技术得到改进。

7月开始使用人脸识别工具

6月12日，据外媒报道，旧金山宣布使用人工智能来减少对犯罪嫌疑人的偏见。据旧金山地区检察官办公室称，该工具不仅可以删除种族描述，还可以删除眼睛颜色和头发颜色等描述。那些可能有意或无意地向检察官透露嫌疑人有某种种族背景的人名、地点和社区也会被删除。

旧金山地区检察官George Gascon在新闻发布会上表示:“这个国家被监禁的人中，有色人种的性别和数量都是不成比例的。”此外，他还指出，当看到像Hernandez这样的名字，检察官立刻就会知道此人是拉美裔，这可能会影响审讯结果。

地方检察官发言人接受The Verge采访时表示：“该工具还会删除警察的详细信息，包括他们的警徽号码，以防检察官碰巧认识他们，可能对他们的报告有偏见。”

更值得一提的是，地方检察官办公室称这是“全国第一次”使用这项技术，称之前没有任何机构使用人工智能来做这件事。

这个工具是由Alex chohras - wood和斯坦福计算政策实验室(Stanford Computational Policy Lab)的团队开发的，他们还帮助开发了纽约警察局(NYPD)的Patternizr系统，该系统可以自动搜索案件文件，以发现犯罪模式。Wood说：“这个新工具基本上只是一个轻量级的web应用程序，它使用几种算法来自动编辑警察报告，使用计算机视觉识别报告中的单词，并将其替换为通用版本，如位置、一号警官等。”

此外，Wood还表示，这个工具已经进入了最后阶段，是由旧金山科技公司免费开发的，将在几周内开放源代码，供其他公司采用。

目前，由于没有看到这个系统在真实的警察报告上运行，所以还不清楚这个系统的运行效果如何。当记者问Gascon是否会修改这些信息时，Gascon只能表示今天是一个起点，这个工具会不断发展。它也只用于特定逮捕的第一个指控决定。检察官的最终决定将基于完整的未经修订的报告。如果最初的指控决定是基于视频证据，那么很明显，这也可能揭示了嫌疑人的种族。

近日，亚马逊的高管们接受BBC 的采访，在采访中，高管们对目前具有争议的亚马逊人脸识别软件 Rekognition作出了回应，亚马逊首席技术官 Werner Vogels 并不认为亚马逊有责任去确保 Rekognition 被正确地或是合乎伦理地使用。他表示：“这不是我做出的决定。这项技术在很多地方得到了很好的应用，决定哪种技术在何种条件下适用是社会的方向。这是一种社会话语和决策——以及决策制定——需要一些发生的事情来决定你可以在哪里应用技术。”

对于美国这样注重政治正确和公平公正的国家来说，人脸识别技术的应用面临着一个很尴尬的局面。旧金山上月下发禁令是因为认为人脸识别技术会产生种族偏见，而此次宣布使用人脸识别工作是为了消除种族偏见，如此反反复复，终究只是为了达成真正消除不平等局面的结果。

其实AI人脸识别工具到底会产生偏见，还是消除偏见，还是取决于AI技术到底被应用在那个方面。至于这个工具在旧金山最后的应用结果如何，一起拭目以待吧！