开源 AI 技术潜在危机爆发,被大肆用于色情方向 - 开源中国社区
开源 AI 技术潜在危机爆发,被大肆用于色情方向
王练 2018年02月09日

开源 AI 技术潜在危机爆发,被大肆用于色情方向

王练 王练 发布于2018年02月09日 收藏 21

【腾讯云】如何快速搭建微信小程序?>>>  

Google 于 2015 年开源的 TensorFlow 已成为最受欢迎的机器学习框架之一,影响和改变了世界各地人工智能研究和开发的现状。借用 Google 首席执行官的话来说,他们最终想要建立的是一个具有深远影响力的开放、免费,且易于使用的 AI 技术。

随着 TensorFlow 应用越来越广泛,它产生的力量已开始超出 Google 的控制范围。在之前两年多的时间里,TensorFlow 主要是应用在学术界和积极的技术领域上,但现在风向出现了新的转变。催化剂是  Reddit 上的一位 ID 为 deepfakes 用户,他利于 TensorFlow 构建出了可自动将脸部图像无缝地拼接到视频中的算法,可以将女明星的脸实时“换”到原视频中的人脸上,达到以假乱真的效果。“deepfakes” 也因此成为这项技术的代名词。

在该算法获得大量关注后,deepfakes 创建了自己的 subreddit 版块,并积累了超过 9 万个订阅用户。之后,该版块中一位 ID 为 deepfakeapp 的用户发布了一款名为 FakeApp 的工具,这是一个简单易操作的桌面应用,下载使用后即可轻松实现 deepfakes 的效果。随后,Pornhub 出现了大量用 deepfakes 创造的视频内容。

也因此,该技术引起了关乎伦理道理的大量的质疑和指责,甚至也有人将矛头指向 Google 。作为开源软件,任何人都可以下载 TensorFlow ,只要有数据支撑,他们可以实现任何想要的成果。Google 和微软等大企业中研究开源 AI 框架的科学家都有签署不对道德发展造成伤害的承诺,但对于下载和使用这些技术的用户没有进行限制。 TensorFlow 网站有文档告知如何使软件运行,但没有要求用户如何在道德伦理上进行规避和限制的说明。

在没有很好地解决方案之前,对于道德方面的管控任务也就自然的落在视频和图像被共享的平台上。Gfycat 已删除在其网站上托管的所有 Deepfakes GIF 图,Reddit 已封禁 deepfakes 的社区,PornHub 也在对此类视频进行删除。当然,虽然这些主要的平台在进行管控,互联网上还是会有其他的传播途径。

deepfakes 曾回应道,任何技术都可以被邪恶的动机利用,这种事情无法被禁止。他表示,技术都有两面性,这项技术可以被用到色情暴力和政治视频上,也可以用到像是《速度与激情7》中保罗沃克逝世后的后续视频拍摄上。人人都可参与机器学习研究不是一件坏事。

对此,大家怎么看?欢迎评论探讨!

本站文章除注明转载外,均为本站原创或编译。欢迎任何形式的转载,但请务必注明出处,尊重他人劳动共创开源社区。
转载请注明:文章转载自 开源中国社区 [http://www.oschina.net]
本文标题:开源 AI 技术潜在危机爆发,被大肆用于色情方向
分享
评论(33)
精彩评论
28
其实色情行业一直走在技术前沿吧:joy:
14
中国的论坛上不管吃饭拉屎,天上地下,古今中外,都能引起一片骂战,唯独成人网站上的网民素质最高,跟贴的都是楼主辛苦了,谢谢楼主分享,从来不见开骂的!
7
邪恶,肮脏的是人
4
magnet:?xt=urn:btih:598F5888522C860D48629EB8EC267496B4322E70 FakeApp1.8G

:smile:
3

引用来自“Soi”的评论

邪恶,肮脏的是人
色情=肮脏,情色=艺术,我觉得有点难区分两者
最新评论
0
所以被刀砍都要抓卖刀的人喽
0
有人知道谷歌有没有用deepfake这种技术来作恶呢..
0
也就是说,可以用AI来消掉马赛克了???
1
"只要有数据支撑,他们可以实现任何想要的成果"

一堆调参工程师估计冲着这句话就会把作者打一顿:smile:
1
色情是确保人类延续和推动人类进步的最根本因素啊。
0
感觉我是个假程序员...:flushed:
0
草榴屡禁不止 ,想想技术也是很牛逼的
0
好像pornhub是全球最大视频网站之一,之前专门有文章介绍过。
0

引用来自“Soi”的评论

邪恶,肮脏的是人

引用来自“南望山阿飞”的评论

色情=肮脏,情色=艺术,我觉得有点难区分两者
其实就是一个顺序的问题,是沉溺肉欲,还是水到渠成
4
magnet:?xt=urn:btih:598F5888522C860D48629EB8EC267496B4322E70 FakeApp1.8G

:smile:
0
没看明白,这和色情有啥关系,意淫一直就是人类大脑的功能之一。这只是证明人类造假的能力又提升了一步。当克隆和人工子宫技术成熟后,人就得为证明“自己是谁”费脑筋了。
0
我觉得没毛病,无论是大数据、VR还是AI,色情行业都是走在最前列的
0
顶一顶
0
我进来看图片的
0
其实发展到最后剩下的只有人性
1
技术无罪,罪在人心
0
众筹项目 ,搞个 AR+AI 带上头盔你老婆就是XXX ,XXX ,XXX。
0
我要下车,这不是去幼儿园的车....
0
技术无罪,不应被这种道德绑架
0
感觉比PS厉害多了。
顶部