tf入门-tf.nn.conv2d是怎样实现卷积的？

转自：https://blog.csdn.net/mao_xiao_feng/article/details/78004522

实验环境：tensorflow版本1.2.0，python2.7

---

介绍

惯例先展现函数：

tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None) 

• 1
• 2

除去name参数用以指定该操做的name，与方法有关的一共五个参数：

• input： 
  指须要作卷积的输入图像，它要求是一个Tensor，具备[batch, in_height, in_width, in_channels]这样的shape，具体含义是[训练时一个batch的图片数量, 图片高度, 图片宽度, 图像通道数]，注意这是一个4维的Tensor，要求类型为float32和float64其中之一

• filter： 
  至关于CNN中的卷积核，它要求是一个Tensor，具备[filter_height, filter_width, in_channels, out_channels]这样的shape，具体含义是[卷积核的高度，卷积核的宽度，图像通道数，卷积核个数]，要求类型与参数input相同，有一个地方须要注意，第三维in_channels，就是参数input的第四维

• strides：卷积时在图像每一维的步长，这是一个一维的向量，长度4

• padding： 
  string类型的量，只能是”SAME”,”VALID”其中之一，这个值决定了不一样的卷积方式（后面会介绍）

• use_cudnn_on_gpu： 
  bool类型，是否使用cudnn加速，默认为true

结果返回一个Tensor，这个输出，就是咱们常说的feature map

---

实验

那么TensorFlow的卷积具体是怎样实现的呢，用一些例子去解释它：

1.考虑一种最简单的状况，如今有一张3×3单通道的图像（对应的shape：[1，3，3，1]），用一个1×1的卷积核（对应的shape：[1，1，1，1]）去作卷积，最后会获得一张3×3的feature map

2.增长图片的通道数，使用一张3×3五通道的图像（对应的shape：[1，3，3，5]），用一个1×1的卷积核（对应的shape：[1，1，1，1]）去作卷积，仍然是一张3×3的feature map，这就至关于每个像素点，卷积核都与该像素点的每个通道作点积

input = tf.Variable(tf.random_normal([1,3,3,5])) filter = tf.Variable(tf.random_normal([1,1,5,1])) op = tf.nn.conv2d(input, filter, strides=[1, 1, 1, 1], padding='VALID')

• 1
• 2
• 3
• 4

3.把卷积核扩大，如今用3×3的卷积核作卷积，最后的输出是一个值，至关于状况2的feature map全部像素点的值求和

input = tf.Variable(tf.random_normal([1,3,3,5])) filter = tf.Variable(tf.random_normal([3,3,5,1])) op = tf.nn.conv2d(input, filter, strides=[1, 1, 1, 1], padding='VALID')

• 1
• 2
• 3
• 4

4.使用更大的图片将状况2的图片扩大到5×5，仍然是3×3的卷积核，令步长为1，输出3×3的feature map

..... .xxx. .xxx. .xxx. .....

• 1
• 2
• 3
• 4
• 5

5.上面咱们一直令参数padding的值为‘VALID’，当其为‘SAME’时，表示卷积核能够停留在图像边缘，以下，输出5×5的feature map

input = tf.Variable(tf.random_normal([1,5,5,5])) filter = tf.Variable(tf.random_normal([3,3,5,1])) op = tf.nn.conv2d(input, filter, strides=[1, 1, 1, 1], padding='SAME')

• 1
• 2
• 3
• 4

xxxxx
xxxxx
xxxxx
xxxxx
xxxxx

• 1
• 2
• 3
• 4
• 5

6.若是卷积核有多个

input = tf.Variable(tf.random_normal([1,5,5,5])) filter = tf.Variable(tf.random_normal([3,3,5,7])) op = tf.nn.conv2d(input, filter, strides=[1, 1, 1, 1], padding='SAME')

• 1
• 2
• 3
• 4

此时输出7张5×5的feature map

7.步长不为1的状况，文档里说了对于图片，由于只有两维，一般strides取[1，stride，stride，1]

input = tf.Variable(tf.random_normal([1,5,5,5])) filter = tf.Variable(tf.random_normal([3,3,5,7])) op = tf.nn.conv2d(input, filter, strides=[1, 2, 2, 1], padding='SAME')

• 1
• 2
• 3
• 4

此时，输出7张3×3的feature map

x.x.x
..... x.x.x ..... x.x.x

• 1
• 2
• 3
• 4
• 5

8.若是batch值不为1，同时输入10张图

input = tf.Variable(tf.random_normal([10,5,5,5])) filter = tf.Variable(tf.random_normal([3,3,5,7])) op = tf.nn.conv2d(input, filter, strides=[1, 2, 2, 1], padding='SAME')

• 1
• 2
• 3
• 4

每张图，都有7张3×3的feature map，输出的shape就是[10，3，3，7]