近日,前谷歌 AI 伦理团队技术联席主管 Timnit Gebru 表示,在谷歌试图压制其研究成果但失败之后,她被解雇了。随后,1200 多名谷歌员工和约 1500 名研究人员联名抗议。
Timnit Gebru 在一场研究会议上提交论文《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》。这篇论文由谷歌的内部团队和外部研究人员共同撰写,提出科技公司应该做更多事情,以确保 AI 写作和语音识别不会加剧歧视。谷歌要求她撤回这篇论文,或者删除谷歌员工的署名。Timnit Gebru 也计划与谷歌协商删除自己的名字,并希望谷歌能对论文中提出的问题作出解释,并探讨处理方式。谷歌拒绝了 Timnit Gebru 的提议。
在这之后,Timnit Gebru 发送了一封电子邮件,邮件中对于谷歌的多元化工作(种族与文化多元化)表示沮丧。紧接着,Timnit Gebru 的公司账号就被封禁,本人也被解雇。
12 月 5 日,谷歌发布了解雇说明,主要理由是该论文未达到谷歌的发版标准,并且忽视了谷歌在减少 AI 偏见与歧视方面的努力。
Timnit Gebru 一直以来都在从事 AI 伦理方面的研究,她在 2018 年曾联名发表过一篇被广泛引用的论文。该论文发现,AI 面部识别在分析深肤色女性面孔时,错误率更高。这一事实通常用来说明 AI 会加深种族歧视。
得知 Timnit Gebru 被解雇之后,许多人提出抗议。有观点认为,这恰恰证明了谷歌在 AI 伦理工作上的不足。面对抗议,谷歌暂未评论。
当AI把浅肤色人群特征作为基准,这样发展下去就不仅仅是BUG问题,百口莫辩
Timnit:在前司领导多次大规模活动