GitHub 被指审查内容,著名“换脸”开源项目 deepfake 遭限制访问

局长
 局长
发布于 2019年02月18日
收藏 47

昨天 Hacker News 上一条关于 deepfake 开源项目的帖子(https://news.ycombinator.com/item?id=19182956)引发了众多开发者的激烈讨论,事出为何?我们不妨看看。

按照帖子的提示,笔者尝试在隐身模式下以未登录的方式访问 deepfake 的 GitHub 仓库,结果如下图所示:


▲未登录 GitHub 帐号状态下访问 deepfake 的代码仓库(https://github.com/deepfakes/faceswap)

可以看到,未登录 GitHub 帐号的状态下,将无法访问 deepfake 这个开源项目的代码仓库,并且会跳转到 GitHub 的登录界面。但 GitHub 一直以来的规则都是:无论用户是否处于登录状态,只要是公开的仓库,任何人都可以进行访问并下载源码。而 deepfake 一直都是一个公开仓库,而不是私有仓库,所以出现这样的情况比较反常。

正是因为这个举动,deepfake 在 GitHub 上的限制被开发者认为遭遇了某种形式的「审查」。但这个行为是 GitHub 的主动意愿,抑或是迫于第三方压力,目前不得而知。

事实上,GitHub 对开源项目采用这种形式的限制访问并不常见。虽然 GitHub 也曾公开表示收到过来自政府的删除请求(https://github.com/github/gov-takedowns),但这是因为这些托管在 GitHub 上的仓库大多都包含敏感内容。

可为什么 deepfake 作为一个纯技术的开源项目也有了这种待遇?说到这,还是先简单介绍一下 deepfake 吧,不过相信在座的各位对它也不会感到陌生。

deepfake 在 GitHub 上的自我描述是:一种利用深度学习技术识别和交换图片、视频中人物脸部图像的工具,也就是俗称的“换脸神器”。但更多的使用者将 deepfake 当成了视频造假工具 —— 把一个人的脸庞转移到另一个的身上,让假视频、假新闻轻松传播到全网。

不信看看下面这些动图,你能辨认出真假?


▲该 GIF 来自一段电视新闻男主播说话的视频,是真的吗?


▲这位女主播,她讲话的这段视频也是真的吗?


▲这位男主播呢?


▲你们的十元呢……

这些动图看起来毫无违和感,但实际上全都是假的!动图上的这些人,从没做出过这些口型和表情。更重要的是,类似这样的假视频近两年在网络上大量涌现,而这些假视频基本都使用了 deepfake 的技术。

在 deepfake 诞生之前,视频换脸技术主要应用于电影拍摄中,而且它需要相对较高的技术和资金投入。但现在,deepfake 等深度学习技术的出现大大降低了换脸门槛,使用者不仅用它来捏造针对政要人士的假新闻,还用它来制造女明星的色情片。

这些假视频、假新闻的危害性之大这里就不赘述了。而且 deepfake 去年甚至惊动了美国五角大楼。他们通过美国国防部高级研究计划局(DARPA)委托全美各地的专家,想方设法检测各类视频的真实性。不久后,DARPA 就研发了一款能够自动监测处被换了脸的假视频的 AI 工具,根据假视频一般不会表现出眨眼、呼吸和眼球运动这些特征,能够以 99% 的准确率识别出假视频。

相关论文和数据集:
https://arxiv.org/abs/1901.08971
https://github.com/ondyari/FaceForensics

HN 帖子底下的评论中有一位 ID 为 alexeldeib 的用户自称是微软的员工,并进行了这样的回复:“我认为这个行为是微软指示 GitHub 执行的操作,而不是 GitHub 的独立决定。如果这是一个自上而下的决策,而不是内部决定的结果,这将令人十分失望。”

还有用户表示,这正是 GitHub 被微软收购后的妥协举动。但立马就有其他用户回复说这种行为在收购之前就已存在(https://github.com/deepfakes/faceswap/issues/392)。


▲可以看到,在微软收购 GitHub 前,就已有用户在 deepfake 仓库中提交过需要登录 GitHub 帐号才能访问项目的 issue。

纵观整个帖子,大家主要是围绕技术被滥用的问题而争论,以及技术与道德之间的冲突。当然,还有很多声讨 GitHub 的留言,他们认为这是 GitHub 一贯以来的做法,因为在被微软收购前也曾有过类似这样的行为。

最后我想以帖子中一位用户的评论结尾 ——“我可能不同意你所说的话,但我誓死捍卫你制造名人虚假裸体的权利”(“I may not agree with what you have to say, but I will defend to the death your right to create fake nudes of celebrities.”)。

本站文章除注明转载外,均为本站原创或编译。欢迎任何形式的转载,但请务必注明出处,尊重他人劳动共创开源社区。
转载请注明:文章转载自 开源中国社区 [http://www.oschina.net]
本文标题:GitHub 被指审查内容,著名“换脸”开源项目 deepfake 遭限制访问
加载中

精彩评论

雪落流苏
雪落流苏

引用来自“金拱门”的评论

好了,现在我知道可以用deepfake做多个韩红了。🙈
很快你就能在pornhub上看到韩红了
金拱门
金拱门
好了,现在我知道可以用deepfake做多个韩红了。🙈
开源中国最大五毛
开源中国最大五毛

引用来自“久永”的评论

。。。还用它来制造女明星的色情片。
—— 彻头彻尾的假新闻!
你想多了,deepfakes是去年的真事了,就连训练的材料都放出来了。
reddit上的deepfakes账户早皿煮掉了。


https://bbs.hupu.com/21380123.html
sunnyjoy (18级) 2018-02-06 16:37 亮了 (1) 我要赞赏 举报 只看此人 3楼
2个月前就在reddit上follow了大神教程,https://www.reddit.com/r/deepfakes/
自制了圆圆和亦菲的,效果一般吧,主要源片说的日语,代入感还是不够,没有找到好的第一视角的中文视频作为源片。
不过不敢分享,你懂的。


oschina新闻,https://www.oschina.net/news/93231/tensorflow-new-way
随着 TensorFlow 应用越来越广泛,它产生的力量已开始超出 Google 的控制范围。在之前两年多的时间里,TensorFlow 主要是应用在学术界和积极的技术领域上,但现在风向出现了新的转变。催化剂是 Reddit 上的一位 ID 为 deepfakes 用户,他利于 TensorFlow 构建出了可自动将脸部图像无缝地拼接到视频中的算法,可以将女明星的脸实时“换”到原视频中的人脸上,达到以假乱真的效果。“deepfakes” 也因此成为这项技术的代名词。

假新闻的嫌疑已经排除了。
请换个姿势
groot_
groot_
解决不了制造问题的人,就去解决制造问题的人使用的工具。从源头开始解决,是这个意思吗?
m
malie0
说技术无罪的显然是无视社会其他规范,就像克隆技术不能被滥用一样,任何行为都是需要收到伦理、道德以及法律的检验的

最新评论(35

W
WavinFlag
“誓死捍卫你制造名人虚假裸体的权利”,在自己受害之前都是这样的。

或者从另一个角度,能够造假,却不能把假的辨别出来,不如直接从现在开始就看假新闻。[手动滑稽]
ifzm
ifzm

引用来自“金拱门”的评论

好了,现在我知道可以用deepfake做多个韩红了。🙈

引用来自“雪落流苏”的评论

很快你就能在pornhub上看到韩红了
这么骚的么 😂
Hezhezhiyu
Hezhezhiyu
针对一些安全领域 直接活体检测
S
Smoothcraft

引用来自“久永”的评论

。。。还用它来制造女明星的色情片。
—— 彻头彻尾的假新闻!

引用来自“开源中国最大五毛”的评论

你想多了,deepfakes是去年的真事了,就连训练的材料都放出来了。
reddit上的deepfakes账户早皿煮掉了。


https://bbs.hupu.com/21380123.html
sunnyjoy (18级) 2018-02-06 16:37 亮了 (1) 我要赞赏 举报 只看此人 3楼
2个月前就在reddit上follow了大神教程,https://www.reddit.com/r/deepfakes/
自制了圆圆和亦菲的,效果一般吧,主要源片说的日语,代入感还是不够,没有找到好的第一视角的中文视频作为源片。
不过不敢分享,你懂的。


oschina新闻,https://www.oschina.net/news/93231/tensorflow-new-way
随着 TensorFlow 应用越来越广泛,它产生的力量已开始超出 Google 的控制范围。在之前两年多的时间里,TensorFlow 主要是应用在学术界和积极的技术领域上,但现在风向出现了新的转变。催化剂是 Reddit 上的一位 ID 为 deepfakes 用户,他利于 TensorFlow 构建出了可自动将脸部图像无缝地拼接到视频中的算法,可以将女明星的脸实时“换”到原视频中的人脸上,达到以假乱真的效果。“deepfakes” 也因此成为这项技术的代名词。

假新闻的嫌疑已经排除了。
请换个姿势
求分享
m
malie0
说技术无罪的显然是无视社会其他规范,就像克隆技术不能被滥用一样,任何行为都是需要收到伦理、道德以及法律的检验的
l
liaoxuewei
你们的十元是什么意思?
李开中源
呵呵,技术无罪,屁话。你们造个原子弹试试
开源中国最大五毛
开源中国最大五毛

引用来自“久永”的评论

。。。还用它来制造女明星的色情片。
—— 彻头彻尾的假新闻!
你想多了,deepfakes是去年的真事了,就连训练的材料都放出来了。
reddit上的deepfakes账户早皿煮掉了。


https://bbs.hupu.com/21380123.html
sunnyjoy (18级) 2018-02-06 16:37 亮了 (1) 我要赞赏 举报 只看此人 3楼
2个月前就在reddit上follow了大神教程,https://www.reddit.com/r/deepfakes/
自制了圆圆和亦菲的,效果一般吧,主要源片说的日语,代入感还是不够,没有找到好的第一视角的中文视频作为源片。
不过不敢分享,你懂的。


oschina新闻,https://www.oschina.net/news/93231/tensorflow-new-way
随着 TensorFlow 应用越来越广泛,它产生的力量已开始超出 Google 的控制范围。在之前两年多的时间里,TensorFlow 主要是应用在学术界和积极的技术领域上,但现在风向出现了新的转变。催化剂是 Reddit 上的一位 ID 为 deepfakes 用户,他利于 TensorFlow 构建出了可自动将脸部图像无缝地拼接到视频中的算法,可以将女明星的脸实时“换”到原视频中的人脸上,达到以假乱真的效果。“deepfakes” 也因此成为这项技术的代名词。

假新闻的嫌疑已经排除了。
请换个姿势
李西北
李西北

引用来自“groot_”的评论

解决不了制造问题的人,就去解决制造问题的人使用的工具。从源头开始解决,是这个意思吗?
对啊!技术无罪,有罪的是使用技术犯罪的人。
马斯克才是个锤子
马斯克才是个锤子
其实换脸这技术挺好.比方说用在失去的亲人的怀念上.问题是项目导向就有问题,是能做假新闻,但是一定要用来做假新闻么?
返回顶部
顶部