AutoML数据增广

DeepAugment是一个专一于数据扩充的自动化工具。 它利用贝叶斯优化来发现针对您的图像数据集定制的数据加强策略。 DeepAugment的主要优势和特色是：

• 下降CNN模型的错误率(WRN-28-10显示CIFAR10的错误率下降了60%)
• 经过自动化流程能够节省时间
• 比谷歌以前的解决方案——AutoAugment——快50倍

完成的包在PyPI上。你能够经过运行如下命令来在终端上安装它：

$ pip install deepaugment

你也能够访问项目的自述文件或运行谷歌Colab笔记本教程。要想了解更多关于我是如何构建这个的，请继续阅读!

引言

数据是人工智能应用中最关键的部分。没有足够的标记数据经常致使过分拟合，这意味着模型将没法概括为未发现的示例。这能够经过数据扩充来缓解，数据扩充能够有效地增长网络所看到的数据的数量和多样性。它是经过对原始数据集(如旋转、裁剪、遮挡等)应用转换，人为地生成新数据来实现的。然而，肯定哪一种加强对手头的数据集最有效并非一项简单的任务。为了解决这个问题，谷歌去年发布了AutoAugment，它经过使用强化学习发现了给定数据集的优化加强。
因为强化学习模块的存在，使用谷歌的AutoAugment须要强大的计算资源。因为得到所需的计算能力代价高昂，所以我开发了一种新的方法——DeepAugment，它使用贝叶斯优化而不是强化学习。

如何得到更好的数据

努力改进数据质量一般比努力改进模型得到更高的投资回报。改进数据有三种主要方法:收集更多的数据、合成新数据或扩展示有数据。收集额外的数据并不老是可行的，并且可能很昂贵。GANs所作的数据合成是颇有前途的，但也很复杂，可能与实际的例子有所不一样。

另外一方面，数据扩充简单且影响很大。它适用于大多数数据集，并经过简单的图像转换完成。然而，问题是肯定哪一种加强技术最适合当前的数据集。发现正确的方法须要耗时的实验。即便通过屡次实验，机器学习（ML）工程师仍然可能找不到最佳选择。
对于每一个图像数据集，有效的加强策略是不一样的，一些加强技术甚至可能对模型有害。例如，若是使用MNIST digits数据集，应用旋转会使模型变得更糟，由于在“6”上180度旋转会使它看起来像“9”，而仍然被标记为“6”。另外一方面，对卫星图像应用旋转能够显著改善结果，由于不管旋转多少次，从空中拍摄的汽车图像仍然是一辆汽车。

DeepAugment：闪电般迅速的autoML

DeepAugment旨在做为一种快速灵活的autoML数据扩充解决方案。更具体地说，它被设计为AutoAugment的更快和更灵活的替代品。（2018年Cubuk等人的博客）AutoAugment是2018年最使人兴奋的发布之一，也是第一种使用强化学习来解决这一特定问题的方法。在本文发表时，AutoAugment的开源版本没有提供控制器模块，这阻碍了用户为本身的数据集使用它。此外，学习加强策略须要15,000次迭代，这须要巨大的计算资源。即便源代码彻底可用，大多数人也没法从中受益。
deepaugmented经过如下设计目标来解决这些问题:
1.在保证结果质量的前提下，最小化数据扩充优化的计算复杂度。
2.模块化和人性化。
为了实现第一个目标，与AutoAugment相比，DeepAugment的设计具备如下差别：

• 使用贝叶斯优化代替强化学习(须要更少的迭代)(~100x加速)
• 最小化子模型大小(下降每次训练的计算复杂度)(~20x加速)
• 减小随机扩充搜索空间设计（减小所需的迭代次数）

为了实现第二个目标，即便DeepAugment模块化和人性化，用户界面的设计方式为用户提供了普遍的可能性配置和模型选择(例如，选择子模型或输入自设计的子模型，请参阅配置选项)。

设计扩充策略

DeepAugment旨在为给定的图像数据集找到最佳的扩充策略。加强策略被定义为五个子策略的总和，这两个子策略由两种类型的加强技术和两个实值[0,1]组成，决定了每种加强技术的应用能力。我使用imgaug包实现了加强技术，imgaug包以其大量的加强技术（见下文）而闻名。

当多样化和随机应用时，加强是最有效的。例如，与其旋转每一个图像，不如旋转图像的某些部分，剪切另外一部分，而后对另外一部分应用颜色反转。基于这一观察，Deepaugment对图像随机应用五个子策略之一（包括两个加强）。优化过程当中，每一个图像被五个子策略之一加强的几率（16%）相等，而彻底不被加强的几率为20%。
虽然这个策略设计受到了autoaugmented的启发，但有一个主要的区别:我没有使用任何参数来应用子策略的几率，以便使策略的随机性更低，并容许在更少的迭代中进行优化。

这个策略设计为贝叶斯优化器建立了一个20维的搜索空间，其中10个维度是分类(加强技术的类型)，其余10个维度是实值(大小)。因为涉及到分类值，我将贝叶斯优化器配置为使用随机森林估计器。

DeepAugment如何找到最佳策略

DeepAugment的三个主要组件是控制器（贝叶斯优化器），加强器和子模型，整个工做流程以下：控制器采样新的加强策略，加强器按新策略转换图像，子模型是经过加强图像从头开始训练。
根据子模型的训练历史计算奖励。奖励返回给控制器，控制器使用此奖励和相关的加强策略更新代理模型(请参阅下面的“贝叶斯优化如何工做”一节)。而后控制器再次采样新策略，并重复相同的步骤。此过程循环，直到达到用户肯定的最大迭代次数。
控制器(贝叶斯优化器)是使用scikit- optimization库的ask-and-tell方法实现的。它被配置为使用一个随机森林估计器做为其基本估计器，并指望改进做为其获取函数。

DeepAugment的基本工做流程

贝叶斯优化是如何工做的

贝叶斯优化的目的是找到一组最大化目标函数值的参数。 贝叶斯优化的工做循环能够归纳为：
1.创建目标函数的代理模型
2.查找代理上执行得最好的参数
3.使用这些参数执行目标函数
4.使用这些参数和目标函数的得分更新代理模型
5.重复步骤2-4，直到达到最大迭代次数
有关贝叶斯优化的更多信息，请阅读高级的这篇解释的博客，或者看一下这篇综述文章。

贝叶斯优化的二维描述，其中x和y轴表示加强类型，点（i，j）处的颜色表示用加强i和j所加强的数据进行训练时CNN模型的精度。

贝叶斯优化的权衡

目前用于超参数优化的标准方法有随机搜索、网格搜索、贝叶斯优化、进化算法和强化学习，按方法复杂度排序。在超参数优化的精度、成本和计算时间方面，贝叶斯优化优于网格搜索和随机搜索(参见这里的经验比较)。这是由于贝叶斯优化从先前参数的运行中学习，与网格搜索和随机搜索相反。
当贝叶斯优化与强化学习和进化算法进行比较时，它提供了具备竞争力的准确性，同时须要更少的迭代。例如，为了学习好的策略，谷歌的AutoAugment迭代15,000次(这意味着训练子CNN模型15,000次)。另外一方面，贝叶斯优化在100-300次迭代中学习良好的策略。贝叶斯优化的经验法则是使迭代次数等于优化参数的次数乘以10。

超参数优化方法的直观比较。经过比较类别，加号(+)的数量表示该方法有多好。

挑战及对策

挑战1:优化加强须要大量的计算资源，由于子模型应该从头开始反复训练。大大减慢了个人工具的开发过程。 尽管使用贝叶斯优化使其更快，但优化过程仍然不够快，没法使开发变得可行。
对策:我开发了两种解决方案。首先，我优化了子CNN模型(见下图)，这是该过程的计算瓶颈。其次，我以更肯定的方式设计了加强策略，使贝叶斯优化器须要更少的迭代。

设计子CNN模型。它在AWS p3.2x大型实例(带有112 TensorFLOPS的Tesla V100 GPU)上以32x32图像在约30秒(120个周期)的时间内完成培训。

挑战2：我在DeepAugment的开发过程当中遇到了一个有趣的问题。在经过一遍又一遍地训练子模型来优化加强期间，它们开始过分拟合验证集。当我更改验证集时，我发现的最佳策略表现不佳。这是一个有趣的例子，由于它不一样于通常意义上的过分拟合，即模型权重过分拟合数据中的噪声。
对策：我没有使用相同的验证集，而是将剩余的数据和训练数据保留为“种子验证集”，并在每次子CNN模型训练时对1000个图像的验证集进行采样（参见下面的数据管道）。这解决了加强过分拟合问题。

如何集成到ML pipeline中

DeepAugment发布在PyPI上。你能够经过运行如下命令来在终端安装它：

$ pip install deepaugment

而且使用方便:

from deepaugment.deepaugment import DeepAugment
deepaug = DeepAugment(my_images, my_labels)
best_policies = deepaug.optimize()

经过配置DeepAugment，能够得到更高级的用法：

from keras.datasets import cifar10
# my configuration
my_config = {
    "model": "basiccnn",
    "method": "bayesian_optimization",
    "train_set_size": 2000,
    "opt_samples": 3,
    "opt_last_n_epochs": 3,
    "opt_initial_points": 10,
    "child_epochs": 50,
    "child_first_train_epochs": 0,
    "child_batch_size": 64
}
(x_train, y_train), (x_test, y_test) = cifar10.load_data()
# X_train.shape -> (N, M, M, 3)
# y_train.shape -> (N)
deepaug = DeepAugment(x_train, y_train, config=my_config)
best_policies = deepaug.optimize(300)

有关更详细的安装/使用信息，请访问项目的自述文件或运行Google Colab笔记本教程。

结论

据咱们所知，DeepAugment是第一种利用贝叶斯优化来寻找最佳数据加强的方法。 数据加强的优化是最近的一个研究领域，AutoAugment是解决这一问题的首批方法之一。
Deepaugment对开源社区的主要贡献在于它使进程具备可扩展性，容许用户在不须要大量计算资源的状况下优化扩充策略*。它是很是模块化的，比之前的解决方案AutoAugment快50倍以上。

WideResNet-28-10 CNN模型与CIFAR10图像在被Deepaugment发现的策略加强和不加强时的验证精度比较验证精度提升8.5%，至关于减小了60%的偏差。

结果代表，使用CIFAR-10小图像数据集的WideResNet-28-10模型与不使用加强的模型和数据集相比，Deepaugment能够减小60%的偏差。
Deepaugment目前只优化图像分类任务的加强。它能够扩展到优化对象检测或分割任务，若是你愿意，我欢迎你的贡献。可是，我认为最好的加强策略很是依赖于数据集的类型，而不是任务(例如分类或对象检测)。这意味着不管任务是什么，AutoAugment都应该找到相似的策略，但若是这些策略最终变得很是不一样，那将是很是有趣的!
虽然DeepAugment目前适用于图像数据集，但将其扩展到文本、音频或视频数据集将很是有趣。一样的概念也适用于其余类型的数据集。
*使用AWS P3.X2Large实例，DeepAugment在CIFAR-10数据集上花费4.2小时（500次迭代），成本约为13美圆。

感谢

我在Insight人工智能研究员计划期间的三个星期内完成了这个项目。我感谢程序总监Matt Rubashkin和Amber Roberts的很是有用的指导，感谢个人技术顾问Melissa Runfeldt帮助我解决问题。我感谢Amber Roberts，Emmanuel Ameisen，Holly Szafarek和Andrew Forrester在这篇博客文章中提出的建议和编辑工做。
想要提高你在数据科学和人工智能领域的职业生涯?申请SV和NYC的截止日期是4月1日!在Insight了解更多关于人工智能程序的信息!

原文连接 本文为云栖社区原创内容，未经容许不得转载。