这个时代到底有多快？

在曾经我们拿“刷脸”这个梗开玩笑的不远处，人脸识别已经成为现如今身份识别的主要方式了。无论在金融领域，还是安保、通行、娱乐、公安司法、自助服务、企业考勤会务等等都已得到普及。

当我们自信的以为人脸技术已经成熟到炉火纯青的地步的时候，亚马逊人脸识别产品Rekognition又双叒叕闯祸了。

Rekognition是亚马逊研发的一款图像分析软件。亚马逊已经将这项技术销售给了美国的几个执法机构，比如说华盛顿县治安官办公室，旨在利用软件的面部识别算法实时自动识别和跟踪犯罪嫌疑人；亚马逊也在争取将这项技术卖给美国政府。



Rekognition需要被辨识的脸部照片作为基础数据库，目前基础数据库的建设主要基于亚马逊的云服务AWS。当摄像头捕捉到现实中的人脸或用户上传对比照片后，Rekognition会自动将它们与基础数据库中的照片进行对比；如果相似度足够高，那么Rekognition就认为这个人属于基础数据库中的某个人。在软件中，将这个相似度称作“可信度阈值”，它的默认值为80%。



利用先进科技，让犯罪嫌疑人无处逃遁，想象一下就觉得似乎世界变得更美好了一点。然而，理想很美好，现实很骨感。

实际上，早在今年1月份Rekognition就陷入种族歧视风波。

据外媒新闻。该项研究的联合作者称，在2018年进行的实验中，Rekognition错误地将19%的女性图像识别为男性，将31%的深肤色女性图像识别为男性。相比之下，微软在识别深色皮肤人群性别时，将女性错认为男性的比例只有1.5%。



亚马逊对这项研究提出质疑。它表示，Rekognition升级版的内测结果显示，该技术对于识别性别的正确率不存在人种差异。此外，亚马逊认为这篇论文没有清楚地说明在实验中使用的置信度阈值，即Rekognition的判断被认为是正确而必须达到的最低精确度。

在向VentureBeat提供的一份声明中，AWS的深度学习和人工智能总经理Matt Wood博士区分了这两种情况：面部分析指的是在视频或图像中辨认出脸部，并确定其一般属性；而面部识别是将单个人脸与其它视像中的人脸相匹配。他说，根据“面部分析”的结果来判断“面部识别”的准确性是“不可行的”，而且他认为这篇论文所谈论的和“客户如何使用Rekognition”是两回事。



Wood博士说：“使用最新版本的Rekognition，从议会网站和Megaface人脸数据库下载百万张图像数据，我们发现，置信度阈值设置为0.99时，误报数为零。我们通过录入和反馈来不断改进这项技术，且支持创建第三方评估、数据集、衡量基准。”

简单的来说，亚马逊想表明的意思是，你使用方法不对，这锅我们不背！

然而，上面这一则只是亚马逊第二次因为Rekognition产生的偏见而陷于争议中。

让我们回顾第一次Rekognition闯的祸。

美国公民自由联盟（ACLU）使用亚马逊的这款人脸识别软件进行了一项实验，他们使用亚马逊的Rekognition人脸识别工具，扫描了全部535名美国国会议员的照片，并将它们与25000张警方公开的罪犯面部照片进行了比对。

结果，系统错误地将28名国会议员的照片与罪犯面部照片进行了配对。也就是说，亚马逊的人脸识别工具认为，535名国会议员中，有28名议员看起来像是罪犯。

在测试时，ACLU使用25000张公开的入监，照构建了一个面部照片数据库和搜索工具。然后，他们搜索了这个数据库，比对了所有现任参众两院议员的公开照片。他们使用亚马逊为Rekognition的默认匹配设置。



民主党众议员Sanford Bishop (D-Ga.) 被亚马逊人脸识别系统错误地判定为罪犯。

结果，产生了28个不正确的匹配——错误率达到5.2%。



但是时隔一年，经过亚马逊的不断努力，依然没有改变Rekognition对美国政要的偏见。

8月14日，ACLU再一次对它进行了一项测试，Rekognition的表现依然令人大跌眼镜：基于25000人的犯罪嫌疑人基础数据库，ACLU上传了120张立法者的照片让Rekognition一试身手，结果是，Rekognition用误判26名立法者为犯罪嫌疑人的结果，再一次证明了自己身手不佳。

ACLU之所以不断地去做实验，找证据，是因为美国民众极其强烈的反对和民权倡导者的严重质疑，已有超过15万人联名抗议。他们认为无处不在的面部识别软件可能侵犯人们的隐私，并造成一个无缝不入的政府监控系统。

ACLU还提供了以下声明：

亚马逊似乎忽略了（或拒绝承认）一个更广泛的观点：政府掌握的人脸识别技术已为滥用做好了准备，并引发了对公民权利的重大担忧。它可以允许——在某些情况下已经允许——警察确定那些人参加了抗议活动，令ICE（美国移民及海关执法局）继续监控移民，令城市可以定期跟踪居民，不管他们是否有理由怀疑犯罪活动。将阈值从80%更改为95%并不能改变这一点。事实上，甚至可能加剧这种情况。

旧金山议员丁右立（Phil Ting）提议禁止使用这个软件系统，并且表示这样的错误识别结果将会给人们带来巨大的负面影响，当你被人认为是一个罪犯， “可能会影响你找工作的能力、影响你买房租房的能力。”这远不是一项技术犯了一个可笑的错误那么简单，而是确确实实会有活生生的人们，受到这一错误带来的实际影响。

那么，面对再一次的重大失误，作为软件开发商亚马逊对此作何解释？福布斯这样报道：“当使用面部识别来判断调查中的嫌疑人时，执法部门应该使用推荐的99%的可信度阈值，并且仅将这些预测作为调查的一个要素（而非唯一决定因素）”。

ACLU表示这种解释无法让人信服。在测试中使用的80%的可信度阈值，实际上是软件提供的默认设置。既然99%的可信度阈值才是推荐使用值，为什么亚马逊不将默认可信度阈值设置为99%呢？然而对此，亚马逊并未给出答复。

未来，Rekognition将会走向何方，目前我们无法做出判断。

随着时代发展、科技进步，人工智能给我们的生活带来的方便和快捷不言而喻，但是科技作为工具，如何发挥最好的功效最终还是掌握在人的手里，说白了，AI只是个孩子，要学的还很多，而关键在于我们人类“家长”怎么去教育和引导。