您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
国外研究发现面部识别系统存在种族偏见
2019年12月23日 由 TGS 发表
554525
0
最近美国政府发布的一项研究显示，许多面部识别系统，相较于白人来说，更容易识别出有色人种，这可能会增加人们对执法机构广泛使用的技术的怀疑。这项由美国国家标准与技术研究所(NIST)进行的研究发现，在进行一种被称为“一对一”匹配的特定类型的数据库搜索时，许多面部识别算法错误地识别非裔美国人和亚洲人面孔的频率是白人面孔的10到100倍。该研究还发现，非裔美国女性更容易在“一对多”配对中被错误识别，在刑事调查中会产生严重后果。尽管一些公司淡化了早期技术上的偏见，但NIST本次的研究却证明，面部匹配也很难跨越人口统计数据。算法正义联盟的创始人乔伊•布拉姆维尼称，这份报告是对人工智能偏见不再是问题的“全面反驳”。这项研究是在美国对这项技术越来越不满的时候进行的，批评人士警告说，这项技术可能会导致不公正的骚扰或逮捕。
在这份报告中，NIST测试了来自99家开发商的189种算法，不包括亚马逊等没有提交算法供审查的公司。它测试的内容不同于公司销售的内容，因为NIST研究的是脱离云计算和专有培训数据的算法。
报告称，中国的SenseTime是一家估值超过75亿美元的人工智能初创企业，在NIST的一次测试中，该公司“所有比较的误匹配率都很高”。 SenseTime的算法在查看索马里男性的照片时，产生错误的几率超过10%。如果部署在机场，这将意味着一个索马里人有十分之一的可能，用其他人的护照通过海关检查。相应的，另一家来自中国的人工智能初创企业艺图(Yitu)的数据则更准确，几乎没有种族偏见。在一对多的测试中，某些情况下，有色人种女性的误报率，几乎是有色人种男性的10倍。在一对多的相关测试中，它的算法只对黑人和白人男性的照片显示出很小的差异。
微软表示正在审查这份报告，目前没有发表评论。美国众议院国土安全委员会主席、国会议员本尼表示称：“鉴于这种令人震惊的结果，政府必须重新评估面部识别技术的计划。”
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消