MIT 使用 Reddit 训练的 AI 现在只想到死亡和谋杀

来源: OSCHINA
编辑: h4cd
2018-06-10

MIT研究人员故意创建Norman来证明用于训练AI的数据可以显著影响其行为。研究人员解释称:“Norman遭受了长时间暴露在Reddit最黑暗的角落,并代表了一个案例研究——当有偏差的数据用于机器学习算法时,人工智能可能会出错。”


“Norman是一个人工智能,被训练执行图像字幕,这是一种流行的深度学习方法,用于生成图像的文字描述。我们从一个臭名昭著的subreddit训练Norman关于图像标题的内容,专门用于记录和观察令人不安的死亡现实。然后,我们将Norman的反应与专门用于罗夏墨迹的标准图像字幕神经网络(在MSCOCO数据集上训练)进行了比较; 一个用于检测潜在的思维障碍的测试。”

结果是令人不安的。

另一方面,这并不令人感到意外。大约两年前,微软的“Tay”AI聊天机器人在上线短短一天后就成为暗黑系种族主义者。

来源:cnbeta

展开阅读全文
5 收藏
分享
加载中
精彩评论
现在所谓的AI就是一个幌子,本质上是数据的拟合。
2018-06-10 16:07
2
举报

引用来自“IOTService”的评论

现在所谓的AI就是一个幌子,本质上是数据的拟合。
所表达的是集体的意志
2018-06-11 02:41
1
举报
近朱者赤,近墨者黑
2018-06-10 16:52
1
举报
rz
喂AI吃屎还嫌AI嘴臭
2018-06-10 09:14
1
举报
最新评论 (8)

引用来自“IOTService”的评论

现在所谓的AI就是一个幌子,本质上是数据的拟合。
所表达的是集体的意志
2018-06-11 02:41
1
回复
举报
所以AI 根本就不具备思考能力
2018-06-10 17:31
0
回复
举报
近朱者赤,近墨者黑
2018-06-10 16:52
1
回复
举报
现在所谓的AI就是一个幌子,本质上是数据的拟合。
2018-06-10 16:07
2
回复
举报
就是学到坏东西了嘛
2018-06-10 11:25
0
回复
举报
Soi
神与魔鬼本就是一体的
2018-06-10 11:13
0
回复
举报
………………这个,让人想起了小冰
2018-06-10 10:39
0
回复
举报
rz
喂AI吃屎还嫌AI嘴臭
2018-06-10 09:14
1
回复
举报
更多评论
10 评论
5 收藏
分享
返回顶部
顶部