2016深度学习统治人工智能?深度学习十大框架 - 开源中国社区
Float_left Icon_close
2016深度学习统治人工智能?深度学习十大框架
oschina 2016年01月05日

2016深度学习统治人工智能?深度学习十大框架

oschina oschina 发布于2016年01月05日 收藏 187 评论 21

2015 年结束了,是时候看看 2016 年的技术趋势,尤其是关于深度学习方面。新智元在 2015 年底发过一篇文章《深度学习会让机器学习工程师失业吗?》,引起很大的反响。的确,过去一年的时间里,深度学习正在改变越来越多的人工智能领域。Google DeepMind 工程师 Jack Rae 预测说,过去被视为对于中型到大型数据集来说最佳的预测算法的那些模型(比如说提升决策树(Boosted Decision Trees)和随机森林)将会变得无人问津。

深度学习,或者更宽泛地说——使用联结主义架构的机器学习算法,可能会让机器学习算法变成过去时,因为深度学习算法还远远不是饱和状态。在未来的几年里,很有可能会出现一些训练深度神经网络的方法,让它们能够显著提升性能。在优化方法、激活功能、联结结构以及初始化步骤之间,还有一些突破出现的空间。

这很可能让很多机器学习算法接近出局的边缘。

那么,2016 年是否能看作深度学习正式统治人工智能的一年?如果是这样,我们又能为此做好什么准备?新智元整理了业内人士关于 2016 年的深度学习技术展望,以及 2015 年深度学习最流行的 10 大框架。

深度学习十大技术展望


IIya Sutskever:OpenAI 的研究部负责人

我们期待看到更深度的模型(Deeper Models),相比今天的模型,它们可以从更少的数据中学习,尤其是在非监督学习方面,会有显著的进步。我们还可以期待,在语音识别和图像识别领域,我们能看到更加精准而且有用的结果。

Sven Behnke:波恩大学全职教授,智能系统小组主任

我期待深度学习技术,会在那些日益增多的多结构数据问题中得到应用。这会给深度学习带来新的应用领域,包括机器人,数据挖掘和知识发现。

Christian Szegedy:Google 高级工程师

现在的深度学习算法和神经网络,距离理论上可能的表现还很远。相比一年以前,我们现在的视觉神经网络模型,它的价格便宜了 5 到 10 倍,处理的参数少了 15 倍,但表现的还更好。这背后是更好的网络结构和更好的训练方法。我相信这仅仅是开始,深度学习算法会如此便宜,它能运行在便宜的手机设备中,而且不用更多的硬件设备支撑,也不需要额外的存储器。

Andrej Karpathy:斯坦福大学计算机科学博士,OpenAI 的研究工程师

我看到了一个趋势,结构会趋于更大,更复杂。我们会建造一个超大型的神经网络,能够交换神经网络组件,提前训练部分网络,增加新的模块,连带调整所有组件。例如,卷积神经网络曾经是最大的深度神经网络,但是今天它们被分离出来,作为新的大型神经网络一部分。相似的,现在的这些神经网络,也会是新一年更大型神经网络的一部分。我们在学习乐高玩具的拼法,学会如何把它们高效拼接在一起。

Pieter Abbeel:UC 伯克利大学助理教授,Gradescope 联合创始人

依赖于监督技术的深度学习垂直领域,需要用新的方法(NLP)超过现有的技术表现。我们会看到深度学习在非监督学习和增强学习方面的突出表现。

Eli David:Deep Instinct CTO

在过去两年,我们看到了深度学习在各个领域获得很大突破。但即便如此,5 年之内并不会达到人类水平的圣杯(但我认为,终其一生这会出现)。我们在各大领域看到极大的突破。特别的,我认为最具有希望的领域,来自于非监督学习,这个世界的大部分数据是没有标签的,而且我们大脑本身,也是非常好的非监督学习盒子。

当 Deep Instinct 成为第一个在安全领域使用深度学习的公司时,可以预计有更多的公司也会使用深度学习来部署。但是深度学习的门槛还是非常高,尤其对于互联网安全公司来说,他们其实并不使用人工智能工具(只有很少的解决方案使用了传统的机器学习技术)。所以深度学习要在安全领域得到大规模应用,还会经过很多年的时间。

Daniel McDuff:Affectiva 研究主管

在计算机视觉、语音分析以及其他领域,深度学习已成为机器学习中的支配形式。我希望使用 1 到 2 个 GPUs 就能部署的准确识别系统,能够让开发者们把新的软件部署到真实世界。我希望更多的焦点会放在非监督训练,或者半监督训练的算法上。

Jörg Bornschein:Google 学者,在加拿大前沿技术研究院(CIFAR)

预测未来总是很难的。当我们在大规模系统里考虑机器学习,在机器人控制的系统领域,或者在大规模系统里的大脑系统,非监督、半监督和强化学习会扮演愈发重要的角色。很明显的是,单纯的监督学习方法在理论上受到太多限制,很难解决实际问题。

Ian Goodfellow:Google 高级研究工程师

我预测在未来5年的时间里,我们的神经网络可以概括视频里发生了什么,而且有能力生成短视频。神经网络已经成为视觉任务的标准解决方案。我预测神经网络会成为 NLP 和机器人任务的标准解决方案。我还预测神经网络会在其他科学领域扮演重要工具,例如在基因行为预测,药物,蛋白质,新的医疗方案等。

Koray Kavukcuoglu & Alex Graves:Google DeepMind 研究工程师

很多事情会在未来 5 年发生。我们预测非监督学习和增强学习越发重要。我们也预测多方式学习(Multimodal Learning)的兴起,而且会超越个体数据集进行学习。

2015 深度学习十大顶级框架


1.Keras

Keras 是非常极简、高度模块化的神经网络库,用 Python 写成,而且能运行在 TensorFlow 和 Thenao 的顶层。它的设计初衷是实现更快的实验,让从想法到结果的时间尽可能少,这是做好研究的关键所在。

2.MXNet

轻量、便携、灵活性强的分布式/移动深度学习系统,并能对动态的、突变的数据流进行调度。MXNet 能支持 Python、R、Julia、Go、Javascript 等编程语言,是出于效率和灵活性设计的深度学习框架。它能够给深度学习程序增加一些小佐料,而且能最大化产品效率。

3.Chainer

深度学习的神经网络灵活框架。Chainer 支持各种网络架构,包括 Feed-forward Nets、Convnets、Recurrent Nets 和 Recursive Nets。它也支持 per-batch 的架构。Chainer 支持 CUDA 计算,它在驱动 GPU 时只需要几行代码。它也能通过一些努力,运行在多 GPUs 的架构中。

4.Sickit-Neuralnetwork

深度神经网络的实施,而且没有学习崖(Learning Cliff)。这个库能够执行多层感知器,自动编码器和递归神经网络,它运行在稳定的 Future Proof 交互界面,并能和对用户更加友好的 Scikit-Learn 以及 Python 交互界面兼容。

5.Theano-Lights

Theano-Lights 是基于 Theano 的研究架构,提供最近一些深度学习模型的实现,以及便于训练和测试功能。这些模型不是隐藏起来的,而是在研究和学习的过程中,有很大的透明性和灵活性。

6.Deeppy

基于 Theano 高度扩展性的深度学习框架。

7.Idlf

Intel 的深度学习框架。

Intel Deep Learning Framework(IDLF)是一个 SDK 库,为深度神经网络提供训练和执行。

它包括一些 API,能够把构建神经网络拓扑作为计算工作流程,进行函数图形优化并执行到硬件。我们最初的重点是驱动部署在 CPU(Xeon)和 GPU(Gen)上神经网络的物体识别(ImageNet 拓扑)。

这个 API 的设计,使我们未来能很容易支持更多的设备。我们的关键原则是在每个 Intel 支持的平台上实现最大性能。

8.Reinforcejs

Reinforcejs 是一个增强学习库,能够执行常见的增强学习算法,而且可以做 Web 端的 Demos。这个库现在包括:

动态规划方法(Dynamic Programming Methods)

时间差分学习(Temporal Difference Learning)(SARSA/Q-Learning)

Deep Q-Learning

Stochastic/Deterministic Policy Gradients 和 Actor Critic 架构

9.OpenDeep

OpenDeep 是服务于 Python 的一个深度学习框架,建立在 Theano 的基础上,专注在灵活性和易用性,为行业的数据科学家和前沿研究者服务。OpenDeep 是一个模块化、易扩展的架构,能够用来构建几乎所有的神经网络框架,以解决你的问题。

10.MXNetJS

MXNetJS 是一个 DMLC/MXnet 的 Javasript 包。MXNetJS 能给浏览器带来最新水平的深度学习预测 API。它通过 Emscripten 和 Amalgamation 运行。MXNetJS 允许你在各种计算图像中,运行最新水平的深度学习预测,并给客户端带来深度学习的乐趣。

Via:新智元

本站文章除注明转载外,均为本站原创或编译。欢迎任何形式的转载,但请务必注明出处,尊重他人劳动共创开源社区。
转载请注明:文章转载自 开源中国社区 [http://www.oschina.net]
本文标题:2016深度学习统治人工智能?深度学习十大框架
分享
评论(21)
最新评论
0
@红薯 ,图都挂完了。。
0

引用来自“kchr”的评论

应该有希望在有生之年看到 AI 兴起,人类灭绝。

引用来自“a_ye”的评论

前一个可能,后面的可能还需要点时间

引用来自“Big Head”的评论

强AI的兴起也就是二三十年内的事,毁灭不毁灭,那得看人类自己会不会作死了……

引用来自“toneyw”的评论

似乎人类不作死就不会被取代一样,有些东西就像历史车轮下的亡魂,没有做错什么,只不过是命运如此罢了。
世事皆有因果,被历史车轮取代的,错就错在不能认清形势,与时俱进。说人类被机器人取代的,都是没有真正思考过人工智能本质的外行人罢了
0

引用来自“kchr”的评论

应该有希望在有生之年看到 AI 兴起,人类灭绝。

引用来自“a_ye”的评论

前一个可能,后面的可能还需要点时间

引用来自“Big Head”的评论

强AI的兴起也就是二三十年内的事,毁灭不毁灭,那得看人类自己会不会作死了……
似乎人类不作死就不会被取代一样,有些东西就像历史车轮下的亡魂,没有做错什么,只不过是命运如此罢了。
0

引用来自“linux工人”的评论

人类文明由 人工智能学习继承发展,生物体的人可能真会逐渐消失。如果贪婪享受

引用来自“Big Head”的评论

错,无论你多贪婪,机器人是不会超出你预计范围的,毁灭人类的机器人必然出自黑客之手

引用来自“G_Young”的评论

黑客也是人类。

引用来自“Big Head”的评论

但是黑客+恐怖分子=反人类

引用来自“G_Young”的评论

不知道未来人类创造的智能会不会失控。反正现在大家的基本观念是:先有,等一定规模后再考虑安全。
那肯定啊,没创造出来的东西,怎么考虑安全,总不能因噎废食
0

引用来自“linux工人”的评论

人类文明由 人工智能学习继承发展,生物体的人可能真会逐渐消失。如果贪婪享受

引用来自“Big Head”的评论

错,无论你多贪婪,机器人是不会超出你预计范围的,毁灭人类的机器人必然出自黑客之手

引用来自“G_Young”的评论

黑客也是人类。

引用来自“Big Head”的评论

但是黑客+恐怖分子=反人类
不知道未来人类创造的智能会不会失控。反正现在大家的基本观念是:先有,等一定规模后再考虑安全。
0

引用来自“linux工人”的评论

人类文明由 人工智能学习继承发展,生物体的人可能真会逐渐消失。如果贪婪享受

引用来自“Big Head”的评论

错,无论你多贪婪,机器人是不会超出你预计范围的,毁灭人类的机器人必然出自黑客之手

引用来自“G_Young”的评论

黑客也是人类。
但是黑客+恐怖分子=反人类
0

引用来自“linux工人”的评论

人类文明由 人工智能学习继承发展,生物体的人可能真会逐渐消失。如果贪婪享受

引用来自“Big Head”的评论

错,无论你多贪婪,机器人是不会超出你预计范围的,毁灭人类的机器人必然出自黑客之手
黑客也是人类。
0

引用来自“linux工人”的评论

人类文明由 人工智能学习继承发展,生物体的人可能真会逐渐消失。如果贪婪享受
错,无论你多贪婪,机器人是不会超出你预计范围的,毁灭人类的机器人必然出自黑客之手
0

引用来自“kchr”的评论

应该有希望在有生之年看到 AI 兴起,人类灭绝。

引用来自“a_ye”的评论

前一个可能,后面的可能还需要点时间
强AI的兴起也就是二三十年内的事,毁灭不毁灭,那得看人类自己会不会作死了……
0
人工智能毁灭地球指日可待
0
深度学习和人工智能是两码事
0
一半是基于theano,没有caffe不科学
0

引用来自“kchr”的评论

应该有希望在有生之年看到 AI 兴起,人类灭绝。
前一个可能,后面的可能还需要点时间
0
机器学习会带来更多的奇迹。计算的成本会越来越低。。。就像人类学会使用火一样。。
0
在科技的高速大路上,人类的车速越来越快,如果这个过程当中发生了交通事故,那将造成无法估量的毁灭性伤害。
0
人类文明由 人工智能学习继承发展,生物体的人可能真会逐渐消失。如果贪婪享受
0
10大框架居然没有caffe、torch等。。
0
应该有希望在有生之年看到 AI 兴起,人类灭绝。
0
深度学习统治人 读到这里,我不禁打了个寒战
0
mark...
顶部