近期,大家的微博是不是都被弗洛伊德刷屏了呢?我说的可不是写《梦的解析》的那个弗洛伊德,而是被美国警察暴力执法致死的那个弗洛伊德,乔治·弗洛伊德!当前,因为这一事件,美国乃至全球有关种族歧视黑人的争论和抗议之声不断,弗洛伊德之死的影响已经超乎想象。
尽管如此,你可能还是无法想象该起事件会给人脸识别带来何种影响,但事实却告诉了我们答案。就在弗洛伊德引发的种族歧视风暴愈演愈烈之际,6月9日IBM公司宣布将就此退出人脸识别业务。那么,为什么弗洛伊德引发的种族争论,会导致IBM人脸识别业务的退场呢?
原来,除了人脸识别业务在IBM营收中的占比不大之外,更为重要的一大原因,是IBM的客户与员工都担忧人脸识别技术中存在的种族偏见问题。据悉,政府是IBM的主要客户,而过去几周,IBM听到了许多支持者对其使用人脸识别技术的担忧,其中就包括政府客户和员工。
近年来,人脸识别广为人们所诟病的除了侵犯个人隐私之外,存在种族偏见也是其一。2018年,美国某项研究就显示,被识别人肤色越暗,人脸识别错误发生率就越高。研究员分别用三款人脸识别系统对非洲国家的1000多名议员照片进行人脸识别,结果白人识别率远高于黑人。
基于此,研究人员认为人脸识别也存在种族歧视。除此之外,在现实生活中这种歧视也已经有所体现!2019年9月,据英国《每日邮报》报道,伦敦一位黑人男子在上传头像照片中,只是因为嘴唇厚就被人脸识别系统认定为了张着嘴,这种简单的识别误差被男子认为存在种族偏见。
而人脸识别应用如此久以来,类似的事情不胜枚举。为此,微软等企业经常被网友们口诛笔伐,他们不得不删除了庞大的公开人脸识别数据库。同时,从2019年5月份开始,美国的旧金山、萨默维尔、奥克兰和加利福尼亚州等城市先后通过了一条禁令,禁止使用人脸识别技术。
那么,为什么人脸识别技术也会存在种族偏见呢?除了禁用之外,是否有办法能纠正这种偏见呢?
其实,据有关研究显示,人脸识别技术之所以存在种族偏见,很大一部分原因是供给它学习的人脸数据库不够庞大和不够多样所导致的。简而言之,人脸识别系统长期看到的都是白人的照片,在黑人识别上自然会出现更多错误。基于此,要想纠正偏见就需完善背后数据库。
2018年2月,IBM就曾发布过一套包括100万张多元化的人类脸部图像的数据合集,希望能够帮助人们训练基于人工智能和神经网络的脸部识别系统,提高AI在脸部识别方面的多样性和准确性,战胜人脸识别存在的技术偏见问题。与此同时,微软等企业也曾扩大数据库。
但由于获取这些真实的人类照片不太容易,一方面愿意提供的人比较少,另一方面稍不注意就容易滋生侵犯隐私等问题,因此截至目前想要解决识别中的种族偏见依然较为困难。当然,除此之外纠正偏见的办法也还有很多,比如行业制定相关标准规则,以及加强监管。
目前,在行业标准的制定方面,我国已经走在了世界前面。今年1月份,一份联合国旗下国际电信联盟的文件透露,在联合国正在推动的人脸识别、视频监控和城市、车辆监控领域国际标准制定中,包括中兴、大华和电信为代表的中国公司在其中扮演了重要角色。
也就是说,当前不仅我国自身标准已经愈发完善,同时与国际社会的合作也在不断加深。而在强化监管方面,近来我国也是出台了不少与人脸识别相关的政策,并通过“人脸识别第一案”、“APP ZAO”、“人脸识别进校园”等事件不断完善着相关的法律监管程序。
在此背景下,随着我国人脸识别应用的不断深化,标准的日趋完善,监管的不断升级,以及对国外影响的持续加深,我们可以期待人脸识别种族偏见终有被消除的一天。届时,相信人脸识别技术能够获得更多的应用空间,展现更多的作用价值,成为新时代便民利民的好技术。