详解深度学习之经典网络架构（四）：VGG-Net
1、简介
VGG全称是Visual Geometry Group属于牛津大学科学工程系，其发布了一些列以VGG开头的卷积网络模型，能够应用在人脸识别、图像分类等方面，分别从VGG16～VGG19。VGG研究卷积网络深度的初衷是想搞清楚卷积网络深度是如何影响大规模图像分类与识别的精度和准确率的，最初是VGG-16号称很是深的卷积网络全称为（GG-Very-Deep-16 CNN），VGG在加深网络层数同时为了不参数过多，在全部层都采用3x3的小卷积核，卷积层步长被设置为1。网络
2、网络结构
VGG的输入被设置为224x244大小的RGB图像，在训练集图像上对全部图像计算RGB均值，而后把图像做为输入传入VGG卷积网络，使用3x3或者1x1的filter，卷积步长被固定1。VGG全链接层有3层，根据卷积层+全链接层总数目的不一样能够从VGG11 ～ VGG19，最少的VGG11有8个卷积层与3个全链接层，最多的VGG19有16个卷积层+3个全链接层，此外VGG网络并非在每一个卷积层后面跟上一个池化层，仍是总数5个池化层，分布在不一样的卷积层之下，下图是VGG11 ～GVV19的结构图：函数
2.1网络参数设置
| 名称 | 参数设置 |
| 输入图像大小 | 224x224 |
| 预处理 | 减去均值 |
| 卷积核 | 3x3，1x1 |
| padding | 1 for 3x3 |
| Max-pooling | 2x2 s-2 |
| 激活函数 | ReLU |
理解：优化
1x1卷积核：降维，增长非线性 3x3卷积核：多个卷积核叠加，增长空间感觉野，减小参数
论文中，做者指出，虽然LRN(Local Response Normalisation)在AlexNet对最终结果起到了做用，但在VGG网络中没有效果，而且该操做会增长内存和计算，从而做者在更深的网络结构中，没有使用该操做。google
2.2网络具体结构
参数数量（百万）：lua
2.3一些基本问题
Q1: 为何3个3x3的卷积能够代替7x7的卷积？spa
- 3个3x3的卷积，使用了3个非线性激活函数，增长了非线性表达能力，使得分割平面更具备可分性
- 减小参数个数。对于C个通道的卷积核，7x7含有参数， 3个3x3的参数个数为，参数大大减小
Q2: 1x1卷积核的做用3d
- 在不影响感觉野的状况下，增长模型的非线性性
- 1x1卷机至关于线性变换，非线性激活函数起到非线性做用
Q3: 网络深度对结果的影响（同年google也独立发布了深度为22层的网络GoogleNet）code
- VGG与GoogleNet模型都很深
- 都采用了小卷积
- VGG只采用3x3，而GoogleNet采用1x1, 3x3, 5x5，模型更加复杂（模型开始采用了很大的卷积核，来下降后面卷机层的计算）
2.4模型训练
VGG采用了min-batch gradient descent去优化multinomial logistic regression objectiveorm
| 名称 | 参数设置 |
| batch size | 256 |
| momentum | 0.9 |
| learn rate | (训练过程当中，下降了三次，每次减小) |
| max iterations | 370K/74epochs |
正则化方法：blog
- 增长了对权重的正则化，
- 对FC全链接层进行dropout正则化，dropout ratio = 0.5
说明：虽然模型的参数和深度相比AlexNet有了很大的增长，可是模型的训练迭代次数却要求更少：a)正则化+小卷积核，b)特定层的预初始化
初始化策略：
- 首先，随机初始化网络结构A（A的深度较浅）
- 利用A的网络参数，给其余的模型进行初始化（初始化前4层卷积+全链接层，其余的层采用正态分布随机初始化，mean=0，var=, biases = 0）最后证实，即便随机初始化全部的层，模型也能训练的很好
训练输入：
采用随机裁剪的方式，获取固定大小224x224的输入图像。而且采用了随机水平镜像和随机平移图像通道来丰富数据。
Training image size: 令S为图像的最小边，若是最小边S=224，则直接在图像上进行224x224区域随机裁剪，这时至关于裁剪后的图像可以几乎覆盖所有的图像信息；若是最小边S>>224
，那么作完224x224区域随机裁剪后，每张裁剪图，只能覆盖原图的一小部份内容。
注：由于训练数据的输入为224x224，从而图像的最小边S，不该该小于224
数据生成方式：首先对图像进行放缩变换，将图像的最小边缩放到S大小，而后
- 方法1: 在S=224和S=384的尺度下，对图像进行224x224区域随机裁剪
- 方法2: 令S随机的在区间内值，放缩完图像后，再进行随机裁剪（其中）
预测方式：做者考虑了两种预测方式：
- 方法1: multi-crop，即对图像进行多样本的随机裁剪，而后经过网络预测每个样本的结构，最终对全部结果平均
- 方法2: densely， 利用FCN的思想，将原图直接送到网络进行预测，将最后的全链接层改成1x1的卷积，这样最后能够得出一个预测的score map，再对结果求平均
上述两种方法分析：
- Szegedy et al.在2014年得出multi-crops相对于FCN效果要好
- multi-crops至关于对于dense evaluatio的补充，缘由在于，二者在边界的处理方式不一样：multi-crop至关于padding补充0值，而dense evaluation至关于padding补充了相邻的像素值，而且增大了感觉野
- multi-crop存在重复计算带来的效率的问题
3、实验效果
3.1单尺度
结论：
- 模型E（VGG19）的效果最好，即网络越深，效果越好
- 同一种模型，随机scale jittering的效果好于固定S大小的256，384两种尺度，即scale jittering数据加强能更准确的提取图像多尺度信息
3.2多尺度
结论：
- 对比单尺度预测，多尺度综合预测，可以提高预测的精度
- 同单尺度预测，多尺度预测也证实了scale jittering的做用
3.3多尺度裁剪
结论：
- 数据生成方式multi-crop效果略优于dense，但做者上文也提升，精度的提升不足以弥补计算上的损失
- multi-crop于dense方法结合的效果最后，也证实了做者的猜测：multi-crop和dense两种方法互为补充
3.4模型融合
结论：
- 经过多种模型融合输出最终的预测结果，能达到the state-of-the-art的效果
3.5对比
结论：
- 与其余模型对比发现，VGG也能达到很是好的效果。
4、总结
做者指出，VGG模型不只可以在大规模数据集上的分类效果很好，其在其余数据集上的推广能力也很是出色。