【神经网络与深度学习】迁移学习：经典算法解析

一. 了解迁移学习

       迁移学习（Transfer Learning）目标是将从一个环境中学到的知识用来帮助新环境中的学习任务。 

           > The ability of a system to recognize and apply knowledge and skills learned in previous tasks to novel tasks。

       入门推荐一篇公认的比较好的 【Survey】： A Survey on Transfer Learning，Sinno JialinPan, Qiang Yang，IEEE Trans

       另外，戴文渊的硕士学位论文也能够看一下：基于实例和特征的迁移学习算法研究

       Survey 做者概括了 Transfer Learning 相关的知识域，有必要了解一下这些名词：

● Learning学习 - learning to learn

● 终身学习 - life-long learning

● 知识转移 - knowledge transfer

● 概括迁移 - inductive transfer

● 多任务学习 - multi-task learning

● 知识的巩固 - knowledge consolidation

● 上下文相关学习 - context sensitive learning

● 基于知识的概括误差 - knowledge-based inductive bias

● 元学习 - meta learning

● 增量学习 - and incremental/cumulative learning

       另外，进展及 Open Source Toolkit 能够参考：http://www.cse.ust.hk/TL/index.html

二. 迁移学习分类

       迁移学习（Transfer Learning）根据 领域 和 任务的类似性，能够这样划分： 

        

        咱们根据 源Domain和目前Domain 之间的关系，源Task 和 目标Task之间的关系，以及任务方法更详细的整理为下表：

		源Domain &  目标Domain	源Task &  目标Task	源Data & 目标Data	任务方法
传统机器学习		相同	相同	有标签 | 有标签
迁移学习	概括式迁移学习	相同/相关	相关	多任务学习 - 有标签 | 有标签  自我学习    - 无标签 | 有标签	分类回归
	直推式迁移学习	相关	相同	有标签 | 无标签	分类回归
	无监督迁移学习	相关	相关	无标签 | 无标签	聚类降维

       实际上，概括式迁移学习 是应用最普遍的一种方法，从这点上看，迁移学习更适合 有标签的应用域。

       根据技术方法，咱们将迁移学习的方法划分为：

	说明	概括式	直推式	无监督
基于样本 的迁移学习	经过调整 源Domain的标签（辅助） 和 目标Domain标签的权重，协同训练获得目标模型。   典型方法：TrAdaBoost	√	√
基于特征 的迁移学习	找到 “好”特征 来减小源Domain和目标Domain之间的不一样，可以下降分类、回归偏差。   典型方法：Self-taught learning，multi-task structure learning	√	√	√
基于参数 的迁移学习	发现源Domain和目标Domain之间的共享参数或先验关系。   典型方法：Learning to learn，Regularized multi-task learning	√
基于相关性 的迁移学习	创建源Domain和目标Domain之间的相关知识映射。   典型方法：Mapping 方法	√

       迁移学习方法虽然在学术有不少研究工做，实际上在应用领域并不算成熟，这自己就是一个很大的命题，关于迁移学习的条件 和 本质也并未造成一套正统的体系来引领研究方向，更多的也是在实验摸索。

       迁移学习 目前面临以下几个问题：

1. 哪一种状况适合作迁移学习？ - What

    这里先给个本身的理解：

        分类和回归问题是比较适合作迁移学习的场景，有标签的源数据是最好的辅助。

2. 该选择哪一种方法？ - Which

    简单而行之有效的方法是首选，领域在快速发展，也没必要拘泥算法自己，改善结果才是硬道理。

3. 如何避免负迁移？ - How

    迁移学习的目标是改善目标域的 Task效果，这里面 负迁移（Negative Transfer）是不少研究者面临的一个问题，如何获得行之有效的改进，避免负迁移是须要你们去评估和权衡的。

三. 经典算法 TrAdaBoost

       TrAdaBoost 算法是基于 样本迁移的 开山之做，由 戴文渊 提出，有着足够的影响力放在第一位来进行讲解。

       论文下载：Boosting for Transfer Learning

       算法的基本思想是 从源 Domain 数据中 筛选有效数据，过滤掉与目标 Domain 不match的数据，经过 Boosting方法创建一种权重调整机制，增长有效数据权重，下降无效数据权重，下图是 TrAdaBoost 算法的示意图（截图来自于  庄福振 - 迁移学习研究进展）：

        

       TrAdaBoost 算法比较简单，用一句话归纳就是 从过时数据里面 找出和目标数据最接近的样本数据。

       来看 TrAdaBoost 的算法步骤：

        

     

       这里须要说明的一点就是 权重的更新方式，对于辅助样原本讲，预测值和标签越接近，权重越大；而对于目标数据则是相反，预测值和标签差别越大，权重越大。这种策略狠容易理解，咱们想找到辅助样本中 和 目标数据分布最接近的样本，同时放大目标样本Loss的影响，那么理想的结果就是：

       目标样本预测值与标签尽可能匹配（不放过一个没匹配好的数据），辅助样本在前面的基础上筛选出最 match（权重大的） 的部分。

       做者在后面给出了理论证实，这里有两个公式（来证实算法收敛）：

         

          

        因篇幅问题，这里就再也不展开了（和做者说的同样），有兴趣能够参考原Paper，看下实验结果：

        

        实验发现，当 同分布数据（目标数据）占比当低于0.1时，算法效果明显，当比例超过 0.1时，TrBoost 退化为 SVM 的效果。

       这又是一个显而易见的结论，咱们认为大于0.1时，仅仅依靠 目前数据就足够完成样本训练，这种状况下，辅助样本的贡献能够忽略。

       另外，当 目标数据 和 辅助数据 差异比较大时，该方法是不 Work的，印证了最初的假设，这里再也不展开证实。

       最后，给出网友提供的C代码：【下载地址】

四. 多任务学习

       多任务学习（Multi-Task Learning, MTL）是一种同时学习多个任务的机器学习方法，该方法由来已久，和深度学习没什么关系。

       若是非要把它 和深度学习加上一个 link，咱们能够这样来表示：

       input1 -> Hidden1-> H1-> Out1                          input1                                       -> Out1

       input2 -> Hidden2-> H2-> Out2         ==>          input2 -> Hidden123 -> H123   -> Out2

       input3 -> Hidden3-> H3-> Out3                         input3                                        -> Out3

       也比较好理解，至关于把多个 Task网络进行合并，同时训练多个任务，这种状况并不鲜见，好比如下2个方向：

1）目标检测 － 复合多任务

    目标检测是 分类问题＋回归问题的组合，这是一个典型的 Multi-Task，好比:

        Detection＝Classification＋Location

        Mask RCNN = Classification＋Location＋Segmentation

    检测问题前面描述的比较多了，这里就再也不贴图了。

2）特征提取 

    多任务特征提取，多个输出，这一类问题表明就是 数据结构化，特征识别。

    下图是港中文 汤晓鸥组发表的TCDCN（Facial Landmark Detection by Deep Multi-task Learning），不少讲 Multi－Task的软文都拿出来讲，咱们也借用一下。

    在这里 Multi-Task 被同时用做 人脸关键点定位、姿态估计和属性预测（好比性别、年龄、人种、微笑？戴眼镜？）

        

       多任务学习适用于这样的状况：

1）多个任务之间存在关联，好比行人和车辆检测，对于深度网络也能够理解为有部分共同的网络结构；

2）每一个独立任务的训练数据比较少，单独训练没法有效收敛；

3）多个任务之间存在相关性信息，单独训练时没法有效挖掘；

       能够看一下这篇 Tutorial：www.public.asu.edu/~jye02/Software/MALSAR/MTL-SDM12.pdf

       关于多任务学习的应用，好比 分类任务下的二级分类，人脸识别等，你们能够更进一步了解。