杞人忧天?人工智能的真正风险

局长
 局长
发布于 2016年11月30日
收藏 6

过去几年,霍金(Stephen Hawking)、马斯克(Elon Musk)、比尔·盖茨等一些名人警告我们应加强关注超级 AI 可能带来的危险后果。而且他们还把钱用在这方面:包括马斯克在内的几位亿万富翁为 OpenAI 提供支持,该组织致力于开发惠及人类的人工智能。

但是对很多人来说,这不过是杞人忧天。吴恩达称担心杀人机器人的出现就好像担心火星上人口过剩一样。与其担心人类被人工智能统治,不如思考因为我们过分相信我们制造的智能系统而可能带来的真正风险

机器学习的工作模式是训练已有数据寻找规律。当机器作出回答时,我们通常无法知道它的解答过程。这就存在明显的问题。机器的准确性取决于它学习时所使用的数据的准确性。由于我们提供给人工智能的很多数据都是不完美的,我们也不应期待人工智能一直能提供完美的答案。我们需要加强审视基于人工智能的决策过程。由于我们按照自己的样子制造出人工智能,它就很可能兼具人类的优点和缺点。

来自:Solidot奇客

本站文章除注明转载外,均为本站原创或编译。欢迎任何形式的转载,但请务必注明出处,尊重他人劳动共创开源社区。
转载请注明:文章转载自 开源中国社区 [http://www.oschina.net]
本文标题:杞人忧天?人工智能的真正风险
加载中

最新评论(13

Mrling
Mrling

引用来自“niniwei”的评论

人工智能本质上是没有智能的、不过是僵尸吧了

引用来自“Mrling”的评论

那为什么阿尔法战胜了围棋大师!

引用来自“niniwei”的评论

你是猪吗?😄
???几个意思
niniwei
niniwei

引用来自“niniwei”的评论

人工智能本质上是没有智能的、不过是僵尸吧了

引用来自“Mrling”的评论

那为什么阿尔法战胜了围棋大师!
你是猪吗?😄
Mrling
Mrling

引用来自“niniwei”的评论

人工智能本质上是没有智能的、不过是僵尸吧了
那为什么阿尔法战胜了围棋大师!
niniwei
niniwei
人工智能本质上是没有智能的、不过是僵尸吧了
BossKiller
BossKiller

引用来自“鱼米三香”的评论

这篇文章的作者才是真正的杞人忧天,机器学习的程序算法和过程早就被论证过了,作者不去看论证过程只在这里说一句机器学习的过程不一定可靠,没营养

引用来自“张敏峰”的评论

作者的意思是,算法可能正确,但是数据未必无误差。想想,现阶段你会坐在一辆无人驾驶的汽车在城市里面穿行吗?

引用来自“鱼米三香”的评论

“当机器作出回答时,我们通常无法知道它的解答过程。这就存在明显的问题。”,人工驾驶一样不能保证数据无误差,并且人为判断的误差可能会更大,如果想完全无误差就只能呆在家里别出去了。所以这只是认知观念问题,就像转基因棉花一样,最早也是没有人用,但是估计现在每个人身上穿的棉花全是转基因的

引用来自“张敏峰”的评论

不是完全放弃不用人工智能,而是要留个心眼。理论上任何软件都有bug,留个心眼。

引用来自“鱼米三香”的评论

我觉得我已经懒成虫了,希望AI帮我做所有的事
回复@鱼米三香 : 吃饭和上床还是要亲自来
鱼米三香
鱼米三香

引用来自“鱼米三香”的评论

这篇文章的作者才是真正的杞人忧天,机器学习的程序算法和过程早就被论证过了,作者不去看论证过程只在这里说一句机器学习的过程不一定可靠,没营养

引用来自“张敏峰”的评论

作者的意思是,算法可能正确,但是数据未必无误差。想想,现阶段你会坐在一辆无人驾驶的汽车在城市里面穿行吗?

引用来自“鱼米三香”的评论

“当机器作出回答时,我们通常无法知道它的解答过程。这就存在明显的问题。”,人工驾驶一样不能保证数据无误差,并且人为判断的误差可能会更大,如果想完全无误差就只能呆在家里别出去了。所以这只是认知观念问题,就像转基因棉花一样,最早也是没有人用,但是估计现在每个人身上穿的棉花全是转基因的

引用来自“张敏峰”的评论

不是完全放弃不用人工智能,而是要留个心眼。理论上任何软件都有bug,留个心眼。
我觉得我已经懒成虫了,希望AI帮我做所有的事
BossKiller
BossKiller

引用来自“鱼米三香”的评论

这篇文章的作者才是真正的杞人忧天,机器学习的程序算法和过程早就被论证过了,作者不去看论证过程只在这里说一句机器学习的过程不一定可靠,没营养

引用来自“张敏峰”的评论

作者的意思是,算法可能正确,但是数据未必无误差。想想,现阶段你会坐在一辆无人驾驶的汽车在城市里面穿行吗?

引用来自“鱼米三香”的评论

“当机器作出回答时,我们通常无法知道它的解答过程。这就存在明显的问题。”,人工驾驶一样不能保证数据无误差,并且人为判断的误差可能会更大,如果想完全无误差就只能呆在家里别出去了。所以这只是认知观念问题,就像转基因棉花一样,最早也是没有人用,但是估计现在每个人身上穿的棉花全是转基因的
不是完全放弃不用人工智能,而是要留个心眼。理论上任何软件都有bug,留个心眼。
鱼米三香
鱼米三香

引用来自“鱼米三香”的评论

这篇文章的作者才是真正的杞人忧天,机器学习的程序算法和过程早就被论证过了,作者不去看论证过程只在这里说一句机器学习的过程不一定可靠,没营养

引用来自“张敏峰”的评论

作者的意思是,算法可能正确,但是数据未必无误差。想想,现阶段你会坐在一辆无人驾驶的汽车在城市里面穿行吗?
“当机器作出回答时,我们通常无法知道它的解答过程。这就存在明显的问题。”,人工驾驶一样不能保证数据无误差,并且人为判断的误差可能会更大,如果想完全无误差就只能呆在家里别出去了。所以这只是认知观念问题,就像转基因棉花一样,最早也是没有人用,但是估计现在每个人身上穿的棉花全是转基因的
丁富贵
机器人不造反,哪来乱世,没有乱世,哪有英雄,英雄无用武之地,只能默默还房贷,这是好事。
BossKiller
BossKiller

引用来自“鱼米三香”的评论

这篇文章的作者才是真正的杞人忧天,机器学习的程序算法和过程早就被论证过了,作者不去看论证过程只在这里说一句机器学习的过程不一定可靠,没营养
作者的意思是,算法可能正确,但是数据未必无误差。想想,现阶段你会坐在一辆无人驾驶的汽车在城市里面穿行吗?
返回顶部
顶部