裁掉数十名人工编辑后,微软的新闻 AI 翻车了

来源: OSCHINA
编辑: 大东BE
2020-06-12

前段时间,微软解雇了约 50 名 MSN 新闻编辑,同时打算用日渐成熟的 AI 系统取而代之的消息引发广泛讨论,不少编辑同事都担心自己的饭碗将来也会被人工智能抢走。然而事情才过去没几天,微软的 AI 就翻车了。

外媒报道,近日,微软新的人工智能发布软件推送了一篇文章,文中内容谈到种族主义对一位英国混血女歌手 Jade Thrilwall 的个人影响,但文中的配图却是 Jade 的队友 —— 另一位混血女歌手 Leigh Anne Pinnock 的照片。显然,该 AI 系统在人脸识别方面犯下了错误。

 

(右 1 为 Jade Thirlwall,右 2 为 Leigh Anne Pinnock)

Jade Thirlwall 是英国女子组合 Little Mix 的一员,近期在一档与“Black Lives Matter”相关的 BBC 访谈节目中,Jade 分享了自己在英格兰东北部南希尔兹一个以白人为主的社区环境下成长遭遇的不平等对待。她的外祖父母来自埃及和也门,而她因为阿拉伯血统而受到同龄人的欺负。

 

(Jade Thirlwall)

Jade 的这篇采访稿由《独立报》报道,并被微软旗下的 MSN.com 网站转载。该网站收录了来自全球各地的优质内容,内容原本由 AI 系统辅助数十名人工编辑混合校审,然后发表。MSN.com 网站过去有数十名人工编辑策划,他们负责挑选故事、新闻和图片在网站上发表,直到上个月微软宣布裁掉约 50 名人工编辑。微软认为,原本辅助编辑们完成这一系列工作的 AI 发布系统完全有能力单独胜任这项工作

外界将 MSN 的这一错误归咎于微软的 AI 算法不可靠。值得一提的是,《卫报》媒体编辑吉姆·沃特森(Jim Waterson)声称,MSN 正试图阻止 AI 编辑选择《卫报》上这篇出现配图错误的文章,MSN 的工作人员也被告知等待《卫报》这篇文章的发表,并尝试从网站上手动删除它,因为微软的 AI 机器人编辑很有可能会认为这是 MSN 读者感兴趣的内容。

而微软方面则否认这一错误是由于「不可靠」的人工智能造成的,称其是自动发布软件的一项新功能的逻辑出了问题。“虽然消除偏见和提高准确性仍然是人工智能研究的一个重点领域,但这一错误并不是这些问题造成的。”微软的一位发言人在周二的一次采访中解释说,“只是我们在测试中的一个图片替换功能出了一些问题,但我们很快关闭了这一功能,并修正了图片的错误。”

然而,这个小小的误会并没有被忽视。Jade Thirlwall 本人在社交平台上发帖指责了 MSN 的错误:“这件事发生在 Leigh Anne Pinnock 和我身上已经很多次了,一直以来都有媒体把我们弄混,这几乎成了一个恶作剧。你们不能在一个团体的四个成员中区分出两个有色人种的女人,这让我很生气!”

事实上,目前的 AI 人脸识别技术确实在肤色、性别方面存在一定的偏见。有研究表明,微软的 AI 人脸识别技术虽然准确率已经接近 100%(仅限于白人男性),但在识别肤色较深的人种时准确率仍只有 79.2% ~ 94%。而就在两天前,另一 IT 巨头 IBM 宣布放弃所有人脸识别相关技术业务,指出人脸识别技术存在肤色、性别偏见,旨在声援日渐加深的种族歧视问题。值得一提的是,IBM 的 AI 人脸识别技术在识别肤色较深的人种时准确率只有 65.3% ~ 88%。

近期,随着 “Black Lives Matter” 运动在欧美地区的迅速发酵,其影响力也辐射到了包括 AI 在内的技术领域。比如有国外专家认为编程语言中的主-从(master-slave) 关系是一种压迫性的比喻,Blacklist 等类似名词包含对黑人的歧意等。包括谷歌在内的一些互联网公司已经开始着手处理这些问题,主动更改项目代码中的一些歧义描述,尽管这些代码语句已经被人们沿用了数十年。

展开阅读全文
3 收藏
分享
加载中
精彩评论
人工编辑也经常翻车
2020-06-12 09:41
20
举报
ai有其应用场景,但也不要夸大过实.
在不追求100%准确的情况下,确实它有他的应用价值.但很多东西,要求的就是100%的准确.
ai,就是模拟.这个东西,它就是个看起来像的东西.至于究竟是不是,看运气.模拟嘛.
就像东施效颦一样,没啥值得大吹而特吹的.
2020-06-12 21:03
2
举报
用ai做个图像识别很简单,torchvison撑死50行代码,不用ai,你输入一张图片,输出一个文字标签,你觉得有多复杂?又或者说,正常人写的出这个转换函数?
2020-06-12 15:35
2
举报
真正原因不是这个吗?“这件事发生在 Leigh Anne Pinnock 和我身上已经很多次了,一直以来都有媒体把我们弄混”。
AI相当于一个不大懂变通的小孩大脑。
2020-06-12 09:07
2
举报
更不用说语音识别,用ai堆数据用最简单模型硬train就行了,pixel4里那个模型才80m的模型就是这样硬train出来的,如果不用ai,不仅上限非常低,你要学各种数学变换,最后模型好几G,不信你试试。
2020-06-12 15:39
1
举报
最新评论 (13)
AI还是被人带沟里了
2020-06-12 16:10
0
回复
举报
AI用错地方了吧?
2020-06-12 13:18
1
回复
举报
人工编辑也经常翻车
2020-06-12 09:41
20
回复
举报
人工编辑翻车了可以背锅,AI背锅这事,社会认可度太低
2020-06-12 14:08
0
回复
举报
真正原因不是这个吗?“这件事发生在 Leigh Anne Pinnock 和我身上已经很多次了,一直以来都有媒体把我们弄混”。
AI相当于一个不大懂变通的小孩大脑。
2020-06-12 09:07
2
回复
举报
AI,就是复杂的模拟法,都是搞笑的.
2020-06-12 08:54
0
回复
举报
用ai做个图像识别很简单,torchvison撑死50行代码,不用ai,你输入一张图片,输出一个文字标签,你觉得有多复杂?又或者说,正常人写的出这个转换函数?
2020-06-12 15:35
2
回复
举报
更不用说语音识别,用ai堆数据用最简单模型硬train就行了,pixel4里那个模型才80m的模型就是这样硬train出来的,如果不用ai,不仅上限非常低,你要学各种数学变换,最后模型好几G,不信你试试。
2020-06-12 15:39
1
回复
举报
ai有其应用场景,但也不要夸大过实.
在不追求100%准确的情况下,确实它有他的应用价值.但很多东西,要求的就是100%的准确.
ai,就是模拟.这个东西,它就是个看起来像的东西.至于究竟是不是,看运气.模拟嘛.
就像东施效颦一样,没啥值得大吹而特吹的.
2020-06-12 21:03
2
回复
举报
牛逼啊,一会“吹”,一会“大吹而特吹”,还会换词说话呢。请问我哪里吹了?
你有本事就发明个算法,不用什么通用的,就判断一张1080P图片中是多少个人多少只熊猫,准确度也不用和AI一样,反正结果差不多就行,你做得到吗?
不行就别再这跟利益相关试地甩个结论不给论证过程。
2020-06-13 16:38
0
回复
举报
ai就是模拟,亏你敢说。。。
2020-06-14 10:47
0
回复
举报
不要吹那么厉害的数学变换.AI不需要.
AI主要应用的就是求导,什么反向传播啊.
我们国人,学习厉害.可是,一味的学习,而不会反思是要不得的.不要盲目跟着外国人走.
会被带进坑的.要是一盲引众盲就搞笑了.
特别是搞科技的.不要迷信权威,不要迷信人,很重要.
2020-06-12 21:07
0
回复
举报
小学语文毕业了?"不要吹那么厉害的数学变换.AI不需要",我的原话“如果不用ai,不仅上限非常低,你要学各种数学变换”。
2020-06-13 16:30
0
回复
举报
更多评论
13 评论
3 收藏
分享
返回顶部
顶部