人工智能工业应用痛点及解决思路

本文由 【FMI飞马网】原创，原文连接：人工智能工业应用痛点及解决思路

分享一些关于人工智能的干货小白| Python+Matlab+机器学习+深度神经网络+理论+实践+视频+课件+源码，附下载！

在关于AI、人工智能的消息铺天盖地卷来的今天，你是否是以为人工智能应用已经在咱们生活的方方面面普及了？

事实是尽管人工智能在语音、图象、NLP领域其实有了比较多的应用，可是实质上相比于你们在手机里装的APP来讲，它并无那么多真正上的应用。为何会产生这样的状况呢？人工智能是否是已经爆发了，或者离爆发还差什么样的因素呢？

来自第四范式的联合创始人、深度学习迁移专家陈雨强在由飞马网主办的FMI2017人工智能大会上为咱们作了详细解释。

陈雨强

人工智能的兴起是随着数据量变大，机器性能提高和并行计算发展共同带来的结果。

工业界的人工智能须要什么样的系统呢？

陈雨强表示，须要的是Scalable的系统，而这个Scalable两层含义，一层含义是传统大数据Scalable，这个Scalable指的是咱们机器学习，数据处理的吞吐使得机器的量增长而增长。另外一个更重要意义上的Scalable，是咱们的机器、智能水平、服务质量、客户体验等，随着业务量的增长，随着用户量的增长而增长，这是更重要意义上的Scalable体系。那为何这是很是重要的呢？

由于它给企业来一种新的增加的方式。过去企业基本上拼的是跑马圈地，我拼个人渠道，我拼个人运营，我拼个人市场，我拼个人资本。在这种状况下，谁拥有更好的资本，谁拥有更好的运营，你就拥有更多的市场，圈更多的地。但随着跑马圈地的阶段接近尾声，增加达到必定程度之后，跑马圈地并非可持续的发展方式。而如今慢慢的由跑马圈地，须要转化成精细化运营。这种状况下谁的运行效率更高，谁的效果更高，谁就能抢到更多的用户，带来更好的效果。而这是个很是高的壁垒，人工智能正好能作到这一点，由于人工智能用到的是数据，数据是没法被复制的。好比即便你如今拥有百度全部的代码，你也不会拥有跟百度同样能力的搜索引擎，由于你没有近10年以来全部人的搜索习惯。

对于企业来讲多了一种新的增加方式或者壁垒的方式，经过创建人工智能的能力，让它积累的时间上的优点和数据上的优点变成它壁垒。这也正是人工智能收到追捧的缘由。

怎样才能达到一个比较高的Scalable的系统呢？

陈雨强在演讲中提到：工业大数据须要高VC维模型。VC理论描述的是计算机人工智能的程度，描述拟合复杂函数的能力，VC越高的话表明这个模型越聪明，VC越端，表明这个模型越弱。

从上图能够看出，高VC维的状况下，咱们不断的进行学习，训练数据上的损失在不断的降低，但你测算的损失是先降低，后上升的。

对于人工智能来讲，因为没法区分数据的好坏，所谓的低VC维模型，当数据量不够大的时候，用蠢一点的模型，随着训练不断的增长，测试在未来的表现愈来愈好。另外一方面在于这个数据不永远是小的，如今随着互联网的发展，数据愈来愈多，在这种状况下你会发现笨一点的模型比好一点的模型效果好不少。

工业界要得到一个Scalable的系统，就须要一个高VC维模型的模型，随着数字的增长，智能程度就增长，智能程度增长，用户的体验，产品的壁垒就高。

那么怎么获得一个高VC维模型的呢？

陈雨强为咱们总结了大概的几种套路：机器学习=数据+特征+模型。

数据量，在数据保持恒定的状况下，其实咱们能够看到，咱们从两个角度分开看这个事情，一个宏观特征，一个微观特征。另外了模型分红两部分，一部分叫作简单的模型，简单的模型用学术语言说法，好比说线性模型，还有一种复杂模型，是非线性模型，其实有比较多的模型。咱们看到这种分法把咱们机器学习人工智能分红四个现象，第一个象限，简单模型加上微观特征，在这样的系统里面咱们的人工智能比较难以发挥比较好的效果的，由于由于他的VC维比较低，效果通常不是特别好。

▲ 第一象限，在上个世纪七八十年代，有个比较著名的数据，大概一千多数据集，每一个数据集大概一百到一千个数据，一千条数据。这样子的国画过去的科学家在这个数据上去研究方法，不可能有一个比较复杂的模型。因此说当时大概研究的主要是第一象限的模型。

▲ 第二象限，最著名的一个表明的工业界的表明多是谷歌的Adword2。谷歌在很是多的领域都是开山鼻祖的这么一个角色和地位了。在广告方面也是这么一个地位，谷歌在当时使用了上千亿的特征，上千亿的训练数据，在一个线性模型上面得到了无与伦比的效果，即便在如今，深度学习风靡全球的状况下，这套模型仍然是很是很是优秀的一个机器学习模型。因此第二象限里面在工业界有很是成功的应用，为谷歌，为百度，为很是多公司的广告，每一年都在创造上百亿甚至上千亿的价值。

▲ 第三象限是一个复杂模型，宏观特征的状况，若是你们熟悉的话，微软的Bing和雅虎里面比较重要的。第三象限，特征没有那么复杂，可是模型是复杂的，也能得到一个比较高VC维模型。

▲ 第四象限，复杂模型，微观特征，他的高VC维模型很是很是高，可是挑战很是大，由于它的模型实在太大，VC维过高，因此说也是一个很是热的研究领域。

如何沿着模型走？

咱们能够看到有两条路，一条是特征这条路，一个是模型这条路，怎么沿着模型这条路走呢？

首先，咱们怎么作一套复杂的模型出来呢？

学术界主导（ICML，NIPS，ICLR）

* 非线性的三把宝剑：Kernel，Boosting，Neural Network；

* 模型大部分单机可加载；

* 解决数据分布式问题，以及下降overhead；

工业界针对应用定制模型

* 基于思考或者观测获得假设；

经过观察咱们企业内部的业务和数据，来作出一些假设，这些假设通常是数学模型的假设，把这些假设经过某种方式加入模型，最后在新的数据上验证这样的假设是否是对的。

* 加入新的模型、结构，以加入更多参数；

* 典型案例：伽利略；

如何沿着特征走？

如何沿着特征走，这条路基本上是工业主导的，由于工业界他的工程实现能力，他的架构比较强，因此他须要高效并行并保证快速的作这个事情。好比说KDD，WWW这样偏工业结合这样的工做比较多，这个里面基本上模型相对简单粗暴。

不存在万能模型

陈雨强表示，全部的机器学习自己就是一个偏置的。无论是深度学习，都是一个偏置的，若是咱们用更多的模型假设，咱们须要更少的数据。而若是咱们用更简单的模型假设，咱们须要更多的数据支持与特征刻画。

固然，不一样的模型各有优缺点，好比偏置若是过大的话，它可能错。可是你还有另外一种方法，你不作那么多假设，你把这个事情交给数据去作，让数据学出来，他的好处是，你假设越简单，你简单假设错的几率就越低，由于你没有什么假设。他的坏处你须要更多的数据，帮你拟合出这个复杂的特征。

因此，工业界机器学习没有免费的午饭，要作出对业务问题合适的选择，你是什么样的业务选择什么样的模型。并不是机器学习必定比深度学习更好，因此必定要作出合适的选择，才是明智的作法。

工业界应用机器学习难题

须要AI应用平台

工业界应用机器学习到底有哪些难题除了有图片上的XN,你们直观的想法必定是须要一个AI平台。即便如今有不少开源工具，但其实咱们发现这些工具并不足够。

为何人工智能尚未真的大规模应用到每一个企业？

这个要求就是说，我若是要作一个成功的AI系统，我必定要是一个AI的专家，这个要求咱们原来的架构师，不只要懂本身的架构方面的事情，我还要懂AI的事情，才能作这样的一个问题，这样的要求是很是高的，这样也致使AI很是难以落地。

特征工程：是一个根据你的模型找出最关键特征的过程叫作特殊工程。包括特征的清洗，特征的变换，特征的组合，和特征的二次工程这样一些事情。

特征工程是很是难的，而且特征工程须要根据你的模型，有很是大的区别，须要对你的业务有很是深入的理解，因此工业界特征工程的难度，让不少人其实没有办法将机器学习直接应用到人工智能应用里面去。

陈雨强告诉咱们，第四范式想作一个自动特征组合的事情，，调研下来发现有三条路：

1、隐式特征组合；主要指一些不是显式特征组合的方式进行特征组合，这种方式，对连续值组合特征自然比较友好。深度学习就是一个很是典型的隐式特征组合的工做。

2、半显式的特征组合；主要是它看起来是显式，可是他并非作显式特征组合的方式。这个地方指的是咱们的数，看起来每一条路径是一个特征组合，他指一堆特征变量在固定区间取值的组合，可是不是特征自己的组合，他的特色是效果比较好，可是它的特征组合其实只是复杂，并非一个真正的作特征组合的方式。

3、显式特征组合；显式特征组合是个很是很是困难的问题，可是它的好处是能够叠加，由于它是特征工程，这个特征工程能够被应用到所能够应用到全部须要特征工程的地方去。

另外，陈雨强告诉咱们，第四范式最近提出了一个FeatureGO的算法，这个算法是一个可以作高阶特征组合方法。这个方法体系下，咱们作到了高至10阶，咱们最多作到16阶的特征组合。这样的算法，基于MCTS的方法，我能知道在某一种特征组合下，它可能得到更好的效果的几率是什么样的。

人工智能的计算能力也是人工智能很是重要的一部分。传统上来讲，你们只要说你作的模型是人工智能最重要的一部分，可是其实如今来讲，人工智能的模型和计算能力，都是很是重要的一点。

最后，陈雨强认为，将来用机器换人，确定是未来工业界人工智能发展的一个趋势。从这一点上，还有不少工做要作，去不断下降用户建模的门槛。