2016深度学习统治人工智能？深度学习十大框架

2015 年结束了，是时候看看 2016 年的技术趋势，尤为是关于深度学习方面。新智元在 2015 年末发过一篇文章《深度学习会让机器学习工程师失业吗？》，引发很大的反响。的确，过去一年的时间里，深度学习正在改变愈来愈多的人工智能领域。Google DeepMind 工程师 Jack Rae 预测说，过去被视为对于中型到大型数据集来讲最佳的预测算法的那些模型（好比说提高决策树（Boosted Decision Trees）和随机森林）将会变得无人问津。 

深度学习，或者更宽泛地说——使用联结主义架构的机器学习算法，可能会让机器学习算法变成过去时，由于深度学习算法还远远不是饱和状态。在将来的几年里，颇有可能会出现一些训练深度神经网络的方法，让它们可以显著提高性能。在优化方法、激活功能、联结结构以及初始化步骤之间，还有一些突破出现的空间。

这极可能让不少机器学习算法接近出局的边缘。

那么，2016 年是否能看做深度学习正式统治人工智能的一年？若是是这样，咱们又能为此作好什么准备？新智元整理了业内人士关于 2016 年的深度学习技术展望，以及 2015 年深度学习最流行的 10 大框架。

 

深度学习十大技术展望

 

IIya Sutskever：OpenAI 的研究部负责人

咱们期待看到更深度的模型（Deeper Models），相比今天的模型，它们能够从更少的数据中学习，尤为是在非监督学习方面，会有显著的进步。咱们还能够期待，在语音识别和图像识别领域，咱们能看到更加精准并且有用的结果。

Sven Behnke：波恩大学全职教授，智能系统小组主任

我期待深度学习技术，会在那些日益增多的多结构数据问题中获得应用。这会给深度学习带来新的应用领域，包括机器人，数据挖掘和知识发现。

Christian Szegedy：Google 高级工程师

如今的深度学习算法和神经网络，距离理论上可能的表现还很远。相比一年之前，咱们如今的视觉神经网络模型，它的价格便宜了 5 到 10 倍，处理的参数少了 15 倍，但表现的还更好。这背后是更好的网络结构和更好的训练方法。我相信这仅仅是开始，深度学习算法会如此便宜，它能运行在便宜的手机设备中，并且不用更多的硬件设备支撑，也不须要额外的存储器。

Andrej Karpathy：斯坦福大学计算机科学博士，OpenAI 的研究工程师

我看到了一个趋势，结构会趋于更大，更复杂。咱们会建造一个超大型的神经网络，可以交换神经网络组件，提早训练部分网络，增长新的模块，连带调整全部组件。例如，卷积神经网络曾经是最大的深度神经网络，可是今天它们被分离出来，做为新的大型神经网络一部分。类似的，如今的这些神经网络，也会是新一年更大型神经网络的一部分。咱们在学习乐高玩具的拼法，学会如何把它们高效拼接在一块儿。

Pieter Abbeel：UC 伯克利大学助理教授，Gradescope 联合创始人

依赖于监督技术的深度学习垂直领域，须要用新的方法（NLP）超过现有的技术表现。咱们会看到深度学习在非监督学习和加强学习方面的突出表现。

Eli David：Deep Instinct CTO

在过去两年，咱们看到了深度学习在各个领域得到很大突破。但即使如此，5 年以内并不会达到人类水平的圣杯（但我认为，终其一辈子这会出现）。咱们在各大领域看到极大的突破。特别的，我认为最具备但愿的领域，来自于非监督学习，这个世界的大部分数据是没有标签的，并且咱们大脑自己，也是很是好的非监督学习盒子。

当 Deep Instinct 成为第一个在安全领域使用深度学习的公司时，能够预计有更多的公司也会使用深度学习来部署。可是深度学习的门槛仍是很是高，尤为对于互联网安全公司来讲，他们其实并不使用人工智能工具（只有不多的解决方案使用了传统的机器学习技术）。因此深度学习要在安全领域获得大规模应用，还会通过不少年的时间。

Daniel McDuff：Affectiva 研究主管

在计算机视觉、语音分析以及其余领域，深度学习已成为机器学习中的支配形式。我但愿使用 1 到 2 个 GPUs 就能部署的准确识别系统，可以让开发者们把新的软件部署到真实世界。我但愿更多的焦点会放在非监督训练，或者半监督训练的算法上。

Jörg Bornschein：Google 学者，在加拿大前沿技术研究院（CIFAR）

预测将来老是很难的。当咱们在大规模系统里考虑机器学习，在机器人控制的系统领域，或者在大规模系统里的大脑系统，非监督、半监督和强化学习会扮演愈发重要的角色。很明显的是，单纯的监督学习方法在理论上受到太多限制，很难解决实际问题。

Ian Goodfellow：Google 高级研究工程师

我预测在将来5年的时间里，咱们的神经网络能够归纳视频里发生了什么，并且有能力生成短视频。神经网络已经成为视觉任务的标准解决方案。我预测神经网络会成为 NLP 和机器人任务的标准解决方案。我还预测神经网络会在其余科学领域扮演重要工具，例如在基因行为预测，药物，蛋白质，新的医疗方案等。

Koray Kavukcuoglu & Alex Graves：Google DeepMind 研究工程师

不少事情会在将来 5 年发生。咱们预测非监督学习和加强学习愈加重要。咱们也预测多方式学习（Multimodal Learning）的兴起，并且会超越个体数据集进行学习。

 

2015 深度学习十大顶级框架

 

1.Keras

Keras 是很是极简、高度模块化的神经网络库，用 Python 写成，并且能运行在 TensorFlow 和 Thenao 的顶层。它的设计初衷是实现更快的实验，让从想法到结果的时间尽量少，这是作好研究的关键所在。

2.MXNet

轻量、便携、灵活性强的分布式/移动深度学习系统，并能对动态的、突变的数据流进行调度。MXNet 能支持 Python、R、Julia、Go、Javascript 等编程语言，是出于效率和灵活性设计的深度学习框架。它可以给深度学习程序增长一些小佐料，并且能最大化产品效率。

3.Chainer

深度学习的神经网络灵活框架。Chainer 支持各类网络架构，包括 Feed-forward Nets、Convnets、Recurrent Nets 和 Recursive Nets。它也支持 per-batch 的架构。Chainer 支持 CUDA 计算，它在驱动 GPU 时只须要几行代码。它也能经过一些努力，运行在多 GPUs 的架构中。

4.Sickit-Neuralnetwork

深度神经网络的实施，并且没有学习崖（Learning Cliff）。这个库可以执行多层感知器，自动编码器和递归神经网络，它运行在稳定的 Future Proof 交互界面，并能和对用户更加友好的 Scikit-Learn 以及 Python 交互界面兼容。

5.Theano-Lights

Theano-Lights 是基于 Theano 的研究架构，提供最近一些深度学习模型的实现，以及便于训练和测试功能。这些模型不是隐藏起来的，而是在研究和学习的过程当中，有很大的透明性和灵活性。

6.Deeppy

基于 Theano 高度扩展性的深度学习框架。

7.Idlf

Intel 的深度学习框架。

Intel Deep Learning Framework（IDLF）是一个 SDK 库，为深度神经网络提供训练和执行。

它包括一些 API，可以把构建神经网络拓扑做为计算工做流程，进行函数图形优化并执行到硬件。咱们最初的重点是驱动部署在 CPU（Xeon）和 GPU（Gen）上神经网络的物体识别（ImageNet 拓扑）。

这个 API 的设计，使咱们将来能很容易支持更多的设备。咱们的关键原则是在每一个 Intel 支持的平台上实现最大性能。

8.Reinforcejs

Reinforcejs 是一个加强学习库，可以执行常见的加强学习算法，并且能够作 Web 端的 Demos。这个库如今包括：

动态规划方法（Dynamic Programming Methods）

时间差分学习（Temporal Difference Learning）（SARSA/Q-Learning）

Deep Q-Learning

Stochastic/Deterministic Policy Gradients 和 Actor Critic 架构

9.OpenDeep

OpenDeep 是服务于 Python 的一个深度学习框架，创建在 Theano 的基础上，专一在灵活性和易用性，为行业的数据科学家和前沿研究者服务。OpenDeep 是一个模块化、易扩展的架构，可以用来构建几乎全部的神经网络框架，以解决你的问题。

10.MXNetJS

MXNetJS 是一个 DMLC/MXnet 的 Javasript 包。MXNetJS 能给浏览器带来最新水平的深度学习预测 API。它经过 Emscripten 和 Amalgamation 运行。MXNetJS 容许你在各类计算图像中，运行最新水平的深度学习预测，并给客户端带来深度学习的乐趣。

 

 

原文地址：http://www.oschina.net/news/69618/ten-major-frameworks-for-artificial-intelligence