深度学习之卷积神经网络经典网络之AlexNet

Alex卷积神经网络源于由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton三人在2012年发表的论文:ImageNet Classification with Deep Convolutional Neural Networks(点击下载论文),AlexNet获得2012年ImageNet ILSVRC挑战赛的冠军。

Alex类似于LeNet-5,但是比LeNet-5更大更深。

 

AlexNet卷积神经网络架构

 

为了降低过拟合,AlexNet使用了两种正则化技巧:

1. 使用了dropout。在第8层和第9层全连接层中随机dropout 50%的神经元

2. 使用了数据增强。对ImageNet图像进行随机偏移、水平翻转、改变图像亮度。

数据增强:通过人工生成训练样本的较为真实的变体,从而增加训练集大小。通过数据增强能够较好地防止过拟合。