Yann LeCun：学习世界模型，通向AI的下一步

机器之心整理。

人工智能顶会 IJCAI 2018 的主要议程于昨日在瑞典首都斯德哥尔摩开始。昨天上午，Facebook 首席人工智能科学家、纽约大学教授 Yann LeCun 在会上发表了近一个小时，以《Learning World Models: the Next Step towards AI》为主题的演讲，引发了人们的普遍关注。本文将对 LeCun 的演讲进行简要介绍。

完整演讲视频：

v.qq.com/x/page/l072…

Yann LeCun 开场介绍说，当前几乎全部的机器学习从业者在实践中使用的都是监督式学习：向机器展现大量的样本，而后告诉机器正确的答案与内部参数，而后就能作图像识别之类的任务。而过去几年，监督式学习有了极大的成功，应用也很是普遍。下图对比了传统机器学习与深度学习各自的特色。

深度学习的演讲回溯到 20 世纪 50 年代，当时 AI 社区尝试构建神经网络。创建这样略为复杂的系统，你须要两个基础的运算：线性的加权和与非线性的激活函数。这里，Yann LeCun 回顾了他们在 80 年代末期提出的用来识别数字的卷积神经网络 LeNet5，从最初的识别单个目标发展到了识别多个目标。

很快，他们就创建了一个识别手写文件的系统。在 1995 年，他们在 AT&T 完成了一个商业系统来读取支票帐号。经历了以下图展现的过程。Yann LeCun 介绍了，这是上一波人工智能浪潮下的极大成功示例。以后，人们就对神经网络的研究失去了兴趣。一方面是准确率的缘由，还由于不少领域当时没有足够多的数据来训练学习系统。

接着，Yann LeCun 介绍说，实际上在 1996-2001 年这段时间内，他并无研究机器学习，而是在研究其它东西，尤为是图像压缩。

下图是在 21 世纪初加入 NYU 以后用模仿学习作的研究。这个研究激发了 DARPA 的 LAGR 项目。

Yann LeCun 随后回顾了卷积神经网络在不一样任务中的应用，包括用于自动驾驶汽车的目标检测与语义分割等。这些基于视觉的任务绝大部分都须要卷积神经网络的支持，固然也离不开并行计算设备的支持。

第一个获得普遍关注与应用的卷积神经网络是 2012 年提出来的 AlexNet，它相比于 LeNet-5 最大的特色是使用更深的卷积网络和 GPU 进行并行运算。AlexNet 还应用了很是多的方法来提高模型性能，包括第一次使用 ReLU 非线性激活函数、第一次使用 Dropout 以及大量数据加强而实现网络的正则化。除此以外，AlexNet 还使用了带动量的随机梯度降低、L2 权重衰减以及 CNN 的集成方法，这些方法如今都成为了卷积网络不可或缺的模块。

随后在 ImageNet 挑战赛中，卷积网络的深度与性能都逐年提高。从 12 年到 16 年，参赛者使用的卷积神经网络不断加深，错误率也逐年降低。

以下所示，牛津大学 2014 年提出了另外一种深度卷积网络 VGG-Net，与 AlexNet 相比，它的卷积核更小，层级更深。谷歌同年提出了 GoogLeNet（或 Inception-v1），该网络共有 22 层，且包含了很是高效的 Inception 模块。后来到了 15 年，何恺明等人提出的深度残差网络骤然将网络深度由十几二十层提高到 152 层，且性能大幅提升。

此外，去年提出的 DenseNet 进一步解决了 ResNet 遗留下的梯度问题，并得到了 CVPR 2017 的最佳论文。DenseNet 的目标是提高网络层级间信息流与梯度流的效率，并提升参数效率。它也如同 ResNet 那样链接前层特征图与后层特征图，但 DenseNet 并不会像 ResNet 那样对两个特征图求和，而是直接将特征图按深度相互拼接在一块儿。

那么为何卷积神经网络在计算机视觉任务上如此高效？Yann LeCun 随后就对深度卷积网络的表征方式作了介绍。他代表对于图像数据来讲，数据的信息与结构在语义层面上都是组合性的，总体图像的语义是由局部抽象特征组合而成。所以深度网络这种层级表征结构能依次从简单特征组合成复杂的抽象特征，以下咱们能够用线段等简单特征组合成简单形状，再进一步组合成图像各部位的特征。

卷积神经网络在目标识别、目标检测、语义分割和图像描述等领域都有很是多的应用，而这些实现不少都依赖于深度学习框架。LeCun 随后重点介绍了 PyTorch 与 Detectron，其中 PyTorch 由于采用了动态计算图而受到了普遍的关注，它也是当前发展最快的框架之一。

以下所示，Facebook AI 研究院开源的 Detectron 基本上是业内最佳水平的目标检测平台。据 LeCun 介绍，该项目自 2016 年 7 月启动，构建于 Caffe2 之上，目前支持目标检测与语义分割算法，其中包括 Mask R-CNN（何恺明的研究，ICCV 2017 最佳论文）和 Focal Loss for Dense Object Detection（ICCV 2017 最佳学生论文）等优秀的模型。

最后，做为对卷积神经网络的总结，LeCun 带咱们回顾了卷积神经网络的应用，包括医疗影像分析、自动驾驶、机器翻译、文本理解、视频游戏和其它学科研究。

Yann LeCun 谈到当前深度学习缺少推理能力，所以将来的一个重点发展方向就是深度学习和推理的结合。

人们已经在多个方向上进行尝试。例如，在网络中增长记忆加强模块，典型的工做在下图中列出，这是实现推理的第一步。在对话模型中，因为对话的轮换和非连续的特色，经过加强记忆，有助于预测能力的提升，进而能实现长期而有效的对话。

为何要强调记忆建模的重要性呢？在强化学习中，无模型的强化学习训练须要大量的尝试才能学会一项任务。

所以此类方法在游戏中表现良好，如 FAIR、DeepMind、OpenAI 等以前都已在许多游戏上实现接近甚至超越人类的 AI 系统，但这些系统并无达到现实应用的水平。

由于现实环境远远比游戏中的环境要复杂得多，不管是变量复杂度仍是不肯定性方面，对此，无模型的强化学习系统面对的探索空间是至关巨大的。并且，不像 AlphaGo 那样能够在计算机上模拟成千上万次比赛，现实世界环境是没法被「加速」的，有些试验还涉及很大的风险，这也大大限制了系统的训练资源。

那么目前来看，人工智能到底缺乏了什么？监督学习须要太多的样本，强化学习须要太多的尝试，AI 系统缺少常识。

Yann LeCun 总结了一下这两类系统的缺点：缺少独立于任务的背景知识；缺少常识；缺少预测行为后果的能力；缺少长期规划和推理的能力。简言之就是：没有世界模型；没有关于世界运行的通用背景知识。用更通常的语言来说就是，目前的机器没法在内心想象（表征）世界，而只是像僵尸同样被气味驱使着（无心识地）行动。记忆建模只是一方面，创建完整的世界表征才是咱们真正须要的。

在现实应用层面，Yann LeCun 总结道，利用现有的监督学习和强化学习技术，咱们能够在自驾汽车、医疗图像分析、个性化医疗、语言翻译、聊天机器人（有用但还很蠢）、信息搜索、信息检索、信息过滤以及其它领域中取得不错的进展，但仍然没法实现常识推理、智能我的助理、智能聊天机器人、家庭机器人以及通用人工智能等。

而后，Yann LeCun 指出咱们能够从婴儿的学习方式上得到启发。婴儿对外部世界的概念学习大部分是经过观察，仅有小部分是经过交互，而视觉比触觉、体感等能捕获更多、更完整的外部信息。那么机器如何作到这一点？其实，这种状况不止发生在人身上，动物也是如此。LeCun 随后展现了一幅婴儿和大猩猩观看魔术的图，并解释说，当违反世界模型，也就是当咱们观察到一些不寻常、与世界模型不匹配的东西时，咱们的注意力就会被调动（如婴儿和大猩猩看到魔术表演会大笑就是由于世界模型被违反了）。

接下来，LeCun 解释了突破强化学习现状的解决方法：自监督学习，它能经过输入的某一部分预测其它部分。在空间层面上包括图像补全、图像变换等，在时间层面上包括时序数据预测、视频帧预测等。

Yann LeCun 总结了三类学习范式，分别是强化学习、监督学习和自监督学习，相比于强化学习和监督学习，自监督学习将输入和输出当成完整的总体。它们的区别和联系在于反馈信息的逐渐增多，模型表征复杂度、适用任务类型也大幅增长，同时任务中涉及的人类工程比重也大大减小，意味着自动化程度的增长。

LeCun 还用以前常用的蛋糕比喻来讲明三者的关系，以前蛋糕胚表明的是无监督学习，如今则被换成自监督学习。

Hinton 在自监督学习领域探索了多年，LeCun 以前一直持怀疑态度，如今终于承认了这个方向。

机器学习的将来不会是监督学习，固然也不会纯粹是强化学习，它应该是包含了深度模块的自监督学习。

那么下一个问题是，自监督学习可以产生通常的背景知识吗？这里重点是模型须要推断出背景知识，它须要从真实世界收集的背景知识推理出当前它但愿预测的任务。以下 LeCun 举了一个例子，若是接收到一个天然语句，模型应该推断出当前场景的各类背景知识。

对于基于模型的经典最优控制，咱们可能须要初始化一个序列来模拟世界，并经过梯度降低调整控制序列来最优化目标函数。而目前咱们能够经过强化学习的方式模拟世界，这些模型不只须要预测下一个可能的动做，同时还须要预测一系列可能的将来。

接下来 Yann LeCun 介绍了使用对抗训练的视频预测。他首先展现了预测无监督学习。人类是很擅长预测的，然而机器很难预测将来会发生什么。近年来的研究中出现了一些使用「对抗训练」的成功案例，可是仍有很长的路要走。Yann LeCun 用一个纽约公寓的视频示例进行举例说明。

语义分割空间的视频预测

这部分 Yann LeCun 介绍了当前语义分割预测的现状。

Latent-Variable Forward Models for Planning and Learning Policies

下图展现了用于推断动做和潜在变量的模型架构。

而后 Yann Lecun 展现了一个现实世界的真实案例。

最后，Yann Lecun 总结了技术和科学之间的互相驱动和促进，如望远镜和光学、蒸汽机和热力学、计算机和计算机科学等。并提出了疑问：什么至关于智能的「热力学」？

• 人工智能和天然智能背后是否存在底层原则？
• 学习背后是否存在简单的准则？
• 大脑是不是进化产生的大量「hack」的集合？

视频连接：www.facebook.com/ijcaiecai18…