基于CNN的人脸识别（上）
具体代码实现可参看
Keras深度学习应用1——基于卷积神经网络(CNN)的人脸识别（下）
代码下载
Github源码下载地址：
https://github.com/Kyrie-leon/CNN-FaceRec-keras
git
1、 CNN概述
1.1 CNN发展历程
卷积神经网络由生物学天然视觉认知机制启发而来。1962年，诺贝尔奖得主D.H.Hubel和T.N.Wiesel，这两位学者经过对猫脑部皮层中特定的神经元进行研究时，发现了其独特的网络结构。根据这个启发有学者提出了新识别机（recognition）的概念，这也是深度学习中第一个在真正意义上实现的卷积神经网络。自此之后，科学家们开始对CNN进行了深刻的研究和改进。
卷积神经网络是属于前馈神经网络下多层神经网络的一种深度机器学习方法，以下图所示，能够看出神经网络的大体分布。
图1-1 神经网络分布图
与传统的图像处理算法相比，CNN的优势为它可以有效避免在前期准备中，须要对图像进行大量的、繁琐的人工提取特征工做。这也说明，CNN可以直接从图像原始像素出发，只需经过一些预处理过程，就能够识别出图像上的特征规律。但在当时由于研究环境不理想，好比，训练数据集数量有限，而且计算机的图形处理能力跟不上，使得深度学习依赖的两大基础因素：“燃料”和“引擎”，都不能达到理想的运行标准。这也致使了咱们熟知的LeNet-5神经网络结构，其在复杂问题的处理上表现的并不理想。随着以后神经网络的发展进入了低潮期，CNN的研究工做也一直没有突破性的进展。
github
从2006年起，在大数据和高性能计算平台的推进下，科学家们开始从新改造CNN，并设法克服难以训练深层CNN的困难。其中最著名的CNN结构被命名为：AlexNet，它一样也是一个比较经典的结构。在图像识别任务上，AlexNet取得了重大突破，并以创纪录的成绩夺得了当年的ImageNet冠军。它总体的框架与LeNet-5相似，但通过改进后层数要更深一些。算法
在AlexNet模型取得显著的成绩后，科学家们又相继提出了其余功能完善、效果良好的改进模型。至此，卷积神经网络的发展脉络以下图所示。
网络
卷积神经网络的演变历程（实线表示模型改进，虚线表示模型革新）框架
从结构看，CNN发展的一个显著特色就是层数变得愈来愈深，结构也变得愈来愈复杂，经过增长深度，网络可以抽象出更深层、更抽象的特征。机器学习
1.2 CNN基本结构
卷积神经网络，顾名思义，其得名自卷积（convolution）操做，而卷积的目的则是将某些特征从图像中提取出来，正如视觉系统辨识具备方向性的物体边缘同样：首先检测横线、竖线、斜线等具备方向性的基本的物体边缘，而后将若干个边缘组合城物体的部分，最后再根据检测到的物体的部分分析物体具体是什么。函数
典型的卷积神经网络是一种多层网络结构，每一层中都包含了必定数量的二维平面，在这些二维平面上有许多独立的神经元结构。CNN网络中一般还含有1到3个特征提取阶段，由卷积和池化组成，以后是一个分类器，该部位一般由1到2个全链接层所组成。
一个简单的卷积神经网络模型如图1-3所示。从图中能够看出，该网络模型含有两个特征提取阶段，一个分类器（全链接层）。在CNN的通常结构中，主要由输入层、隐藏层和输出层三部分构成，在隐藏层中一样包含三部分：卷积层（用于特征提取）、池化层（用于特征优化选取）、全链接层（至关于传统多层感知机中的隐藏层）。
性能
2、 CNN算法原理
2.1 CNN基本网络结构
一个典型的卷积神经网络主要由输入层、卷积层、池化层、全链接层、激励层，5种结构构成。一张图像从输入层输入，依次通过卷积层、池化层等多层的特征提取，最终抽象成信息量最高的特征从全链接层输入到Softmax层进行分类。学习
2.1.1输入层
输入层，顾名思义就是整个CNN的数据输入，一般把一个通过预处理的图像像素矩阵输入到这一层中，对于不一样类型的图片输入时需定义图片类型，例如黑白图片就是一幅单通道图像、RGB图片就是三通道图像。
当一幅图像输入到卷积神经网络中后，会通过若干个卷积层和池化层的运算，直至全链接层降维，所以图片的数量和分辨率都会对模型的性能形成必定的影响。
大数据
2.1.2卷积层
卷积层是整个卷积神经网络的核心部分，其做用为提取图像特征和数据降维。卷积层包含有多个卷积核，该卷积核的尺寸一般由人工指定为3×3或5×5。
假设卷积核的大小为3×3，其中卷积核为：
如图详细解释了卷积运算的执行过程。首先选取图中的3×3尺寸的conv卷积核，接下来从矩阵A的左上角开始划分出一个和卷积核尺寸一样大小的矩阵，将这个矩阵与conv对应位置上的元素逐个相乘而后求和，获得的值即为新矩阵的第一行第一列的值，而后按照从左到右从上到下的窗口滑动顺序，重复以上步骤（即图中step2-step9），最终获得一个新的矩阵（step9中右侧矩阵）。这个矩阵保存了图像卷积操做后的全部特征。
对于图片的边界线点，CNN的卷积核有两种处理方式。一种是对输入的矩阵不采起任何操做，直接按照上所示的顺序进行卷积操做，但通过该处理方式后输出矩阵的大小发生改变，输入矩阵大于输出矩阵。另外一种处理方式是对原矩阵边界进行全0填充（zero-padding）后再进行卷积计算，这种处理方式使得矩阵在输出后尺寸仍然不发生改变，如图所示。
2.1.3池化层
池化（pooling）也称采样（sub sampling）或下采样（down sampling）。池化层能够在保留原图片特征的前提下，很是有效的缩小图片尺寸，减小全链接层中的参数。所以，该步骤又称为降维。添加池化层不只加速了模型的计算，并且能够防止模型出现的过拟合现象。
池化也是经过一个相似于卷积核的窗口按必定顺序移动来完成的。与卷积层不一样的是池化不须要进行矩阵节点的加权运算，经常使用的池化操做有最大值运算和平均值运算。其相应的池化层也分别被称为最大池化层（max pooling）和平均池化层（average pooling）。其他的池化运算实践中使用较少，本文不作过多赘述。
池化窗口也须要人工指定尺寸，是否使用全零填充等设置。本文选用最大池化层，池化窗口尺寸为2×2，不使用全零填充，则池化过程如图2-3所示。首先将该特征矩阵划分为4个2×2尺寸的矩阵，而后分别取出每一个2×2矩阵中的最大像素值Max，最后将每4个矩阵中的最大像素值组成一个新的矩阵，大小为池化窗口的尺寸，即为2×2。如图2-3所示右侧矩阵通过最大池化运算后的操做结果。一样的，分别对每一个2×2矩阵取平均值获得的新矩阵即为平均池化操做结果。
2.1.4全链接层
全链接层主要用于综合卷积层和池化层的特征。因为卷积层和池化层都可以提取人脸的特征，所以通过多层的处理后，图像中的信息已经被提取成信息量更高的特征。这些特征经过全链接层后成为一幅图像信息的最终表达，并做为输入特征输入到分类器中完成分类任务。全链接层是整个网络最难训练的部分，若是训练样本过少，则可能形成过拟合现象。所以，采用随机失活（dropout）技术，抑制模型出现的过拟合现象。所谓随机失活是在学习过程当中经过将隐藏层（通常为全链接层）的部分节点权重随机归零，从而下降节点间的相互依赖性。
2.1.5 激励层
多层神经网络比单层感知机强大的缘由之一，是由于激活函数为它引入了非线性的学习和处理能力。单层感知机因其结构较简单，因此学习能力十分有限，在单一模型的限制下只能被用来解决线性可分问题，不能进行深刻的研究。
在神经网络的研究中，常见的激活函数主要有阶跃函数、sigmoid函数、ReLU函数等。其中，阶跃函数能够直接将输入的数据映射为1或者0（1表示处于激活，0表示抑制），可是由于它不连续、不光滑、不可导，因此在实际应用中一般不会将其做为激活函数。sigmoid函数近年来也不多被采用，由于它会在神经网络进行反向传播训练时产生不可解决的梯度消失问题，从而致使训练深层网络的效果不理想。因此这里主要对ReLU函数进行介绍。
在多层神经网络中，要研究的对象更加复杂，须要一个稳定、快速，且具备更好的预测性能的函数做为激活函数。为解决这个需求，线性整流函数（ReLU）于2012年Hinton等人发表的论文中被提出。经过研究发现ReLU的收敛速度相比于其余激活函数要快不少，且能更有效的避免梯度爆炸和梯度消失（层数太大）的问题。目前ReLU函数已做为经常使用激活函数被应用于多层神经网络。一般状况下将其定义为式：
f ( x ) = m a x ( 0 , x ) f(x)=max(0,x) f(x)=max(0,x)
也能够写成
ReLU函数定义了当前神经元在通过线性变换以后的非线性输出结果，其输出能够表示为 。从它函数数学定义上能够看出：当输入大于0的时候，输出就是输入，而当输入小于0时，输出就保持为0了，如图2-4所示。