IBM 全面停止 AI 人脸识别相关技术业务

2020年06月10日

近日,IBM 公司宣布停止提供人脸识别技术的相关服务,因为担心这项技术可能被用来促进种族和性别歧视。

IBM 首席执行官 Arvind Krishna 在一份递交到美国国会的公开信中写道:“IBM 坚决反对将任何技术用于大规模监视、种族定性、侵犯基本人权和自由,或任何与我们的价值观、信任和透明原则不符的目的。”

显然,IBM 此举旨在响应在美国愈演愈烈的反种族歧视运动“Black Lives Matter”。Arvind 在信中还呼吁国会出台相关国家政策,鼓励采用警员佩戴摄像头(类似行车记录仪)和数据分析等技术,引入适当的问责制度,让执法工作更透明。 

目前,美国少数城市已经禁止使用面部识别技术。去年,旧金山、奥克兰和圣地亚哥等城市相继禁止使用面部识别技术,理由是这项技术存在局限性,在使用方面缺乏标准,还助长了对少数人种的潜在偏见。 

人脸识别技术的发展

很难相信,这项十年前还常常出现在科幻电影中的技术,如今离我们的生活如此接近。事实上,人们在上世纪 60 年代就开始了对人脸识别技术的探索。彼时,人脸识别之父 Bledsoe 开发了一种系统,该系统可用计算机辅助人们手动记录各种面部特征(包括眼睛,鼻子,发际线和嘴巴)的坐标位置,然后将这些坐标数据插入数据库中。当为系统提供某人的新照片时,它能够从数据库中检索与之最相似的图像。这就是最早的人脸识别系统。可惜的是,受到当时的技术和计算机处理能力的限制,这项技术并没有得到大规模的应用。但该系统成功证明了面部识别是可行的生物特征识别技术,迈出了人脸识别技术重要的第一步。 

随着计算机硬件性能的飞跃,研究者不断地突破人脸识别系统的上限,但成功率一直无法实现大规模商用。直到 2014 年前后,大数据和深度学习的发展掀起了新时代 AI 热潮,神经网络重受瞩目,并在图像分类、手写体识别、语音识别等应用中获得了远超经典方法的结果。来自香港中文大学的研究团队提出将卷积神经网络应用到人脸识别上,采用 20 万训练数据,在 LFW 上第一次得到超过人类水平的识别精度,这是人脸识别发展历史上的一座里程碑。自此之后,人脸识别技术与机器学习绑定,研究者们不断改进机器学习算法,同时扩大训练样本规模,将 LFW 上的识别精度推到99.5%以上。人脸识别发展过程中一些经典的方法及其在 LFW 上的精度,都有一个基本的趋势:训练数据规模越来越大,识别精度越来越高。

人脸识别中的偏见 

在过去的十年中,得益于人工智能的发展,人脸识别软件有了很大的进步。同时,由于该技术通常是由私营公司提供的,缺少相关法律法规的限制和政府部门的监管。因此,有调查显示这项技术存在种族、性别偏见,这会使该工具在执法过程中的可靠性大打折扣,存在侵犯公民合法权利的风险。 

2018 年,Joy Buolamwini 和 Timnit Gebru 的研究首次揭示了许多商业人脸识别系统(包括 IBM 的)有多大的偏见。该研究测试了三款来自不同地区公司的主流人脸识别软件,人物面部素材来自 3 个非洲国家和 3 个欧洲国家的志愿者,研究人员把素材按照肤色、性别来进行交叉分类。研究结果显示:

  • 所有人脸识别软件对男性的识别成功率都比女性更高,错误率相差 8.1%~20.6%
  • 所有人脸识别软件对浅肤色的人脸识别成功率比深肤色的更高,错误率相差 11.8%~19.2%

综合各分类的人脸识别成功率如下:

综合对比显示,各人脸识别软件对浅肤色男性的人脸识别成功率最高,对深肤色女性的人脸识别成功率最低,正确率差距最高达到 34.4% 。

也就是说,在这些已经大规模商用的人脸识别软件应用场景下,黑人女性有 20%~30%的概率被识别错误,产生一定的误会。如果是在警用安保等使用场景下,发生误会的后果可能会非常严重。 

这项研究工作引起了外界对这些人脸识别算法的批评,各大科技公司也为纠正偏差进行了持续的调查研究。例如,美国国家标准技术研究院(National Institute of Standards and Technology)于 2019 年12 月进行的一项研究发现,“在大多数当前评估的人脸识别算法中,跨人种差异确实存在广泛的准确性偏差”。除了对人种、性别的识别偏差外,人脸识别技术还因其在侵犯隐私方面的问题而受到抨击

从今年初开始,另一家美国的人脸识别技术公司 Clearview AI 受到了严密的审查,因为有关部门发现其面部识别工具由超过 30 亿张图像(大部分是通过抓取社交媒体网站收集的)构建而成,并且已被很多企业广泛使用。自那以来,Clearview 公司已被执法部门责令停业,并且面临多项侵犯公民隐私的诉讼。今年 1 月份,Facebook 也因其非法使用面部识别技术遭到检方起诉,面临 5.5 亿美元的罚款。

人脸识别的未来

这一次蓝色巨人 IBM 宣布放弃人脸识别业务的决策,也给野蛮生长的人脸识别产业踩下了一脚急刹车,把人们的注意力集中到技术背后的问题上来,比如人权平等、隐私保护等。各项研究表明,目前的人脸识别技术仍存在一定的缺陷。

不同于 5G 等新技术,AI 在诞生之初就被人们视为一把双刃剑。无论是前段时间饱受争议的 Deepfake,还是如今处境尴尬的人脸识别,人们对于 AI 技术带来的社会、伦理问题的担忧从未停止。但还是那句话,“菜刀可以用来做菜,也能用来伤人”,技术本身是无罪的,一切都取决于使用技术的人。相信在这项技术完全成熟以后,人脸识别仍然能够在一些人类需要的场景下发光发热。

展开阅读全文
7 收藏
分享
加载中
精彩评论
不是因为技术追不上吗?
2020-06-10 09:07
19
举报
做不下去了找一个好听的借口
2020-06-10 10:07
15
举报
人的眼睛视力也能根据肤色进行种族歧视,是不是要把视力消灭了
2020-06-10 11:03
9
举报
技术和使用是两个问题,如果这样,相比之下,核弹之流更应该停止?
2020-06-10 09:53
4
举报
上面的正确率比较,IBM表现最差或许这才是真正的原因.
2020-06-10 16:26
3
举报
最新评论 (30)
白左 尼个胜利了
2020-06-16 09:32
0
回复
举报
现在的AI的理论就是大数据,这样的AI没有自我意识
2020-06-12 16:11
0
回复
举报
只是在这个风口上暂停了而已, 避免惹麻烦, 过去这阵风随时恢复.
2020-06-11 10:10
0
回复
举报
上面的正确率比较,IBM表现最差或许这才是真正的原因.
2020-06-10 16:26
3
回复
举报
跟谷歌学啊,想当年,谷歌把一个黑人识别成了大猩猩,然后谷歌把大猩猩删除了,不会有任何生物被识别成大猩猩,所以啊,IBM也可以直接不区分嘛。
2020-06-10 14:43
2
回复
举报
IBM 公司宣布停止提供人脸识别技术的相关服务,因为担心这项技术可能被用来促进种族和性别歧视。是技术问题吧?
2020-06-10 13:15
1
回复
举报
这个把技术扯上种族问题,就有点极端了
2020-06-10 12:50
1
回复
举报
AI的泡沫也该破了.
如何看待近期亚马逊AI李沐团队大批人员离职?
2020-06-10 12:20
0
回复
举报
人脸识别商用。给我的感觉是脱裤子放屁。用于公共区监视到是大行其道,但很多地方gov,实际上是承包给很多公司搞的,早已经泄到天涯海角了
2020-06-10 11:36
1
回复
举报
就像放弃pc业务一样
2020-06-10 11:28
0
回复
举报
更多评论
30 评论
7 收藏
分享
返回顶部
顶部