【深度学习】keras + tensorflow 实现猫和狗图像分类

时间 2019-12-14

标签深度学习 keras tensorflow 实现图像分类繁體版

原文原文链接

本文主要是使用【监督学习】实现一个图像分类器，目的是识别图片是猫仍是狗。python

从【数据预处理】到【图片预测】实现一个完整的流程，固然这个分类在 Kaggle 上已经有人用【迁移学习】（VGG，Resnet）作过了，迁移学习我就不说了，我本身用 Keras + Tensorflow 完整的实现了一遍。git

准备工做：github

数据集： Dogs vs. Cats 注册激活困难，本身想一想办法，Ps：实在注册不了百度云有下载本身搜搜
使用编程语言：固然是Python 3，你问我为何，固然是人生苦短。
使用机器学习库：Numpy（科学计算的库，主要是矩阵运算，真特么好用），sklearn（机器学习库）， Keras（高层神经网络API，真特么好用，马云用了都说好），Tensorflow-GPU版（深度学习框架，用的人都说好，没用的也说好）
编辑器：Visual studio code （巨硬大法好），安装Python插件

Ps：NVIDIA的显卡才支持GPU加速运算，具体哪些卡，看它的官网，使用GPU比CPU要节省四五倍的时间。编程

先导入用到的库：网络

import os  
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' 
import numpy as np
from keras import callbacks
from keras.models import Sequential, model_from_yaml, load_model
from keras.layers import Dense, Conv2D, Flatten, Dropout, MaxPool2D
from keras.optimizers import Adam, SGD
from keras.preprocessing import image
from keras.utils import np_utils, plot_model
from sklearn.model_selection import train_test_split
from keras.applications.resnet50 import preprocess_input, decode_predictions

注意： os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' app

这一行代码是为了避免让在控制钱显示Tensorflow输出的一堆信息，不写就能够看到 tensorflow 输出的一堆日志。框架

加载数据：下载的压缩包解压出来，目录下面有25,000 猫和狗的图片

线上代码，后面解释机器学习

def load_data():
    path = './data/train/'
    files = os.listdir(path)
    images = []
    labels = []
    for f in files:
        img_path = path + f
        img = image.load_img(img_path, target_size=image_size)
        img_array = image.img_to_array(img)
        images.append(img_array)

        if 'cat' in f:
            labels.append(0)
        else:
            labels.append(1)

    data = np.array(images)
    labels = np.array(labels)

    labels = np_utils.to_categorical(labels, 2)
    return data, labels

由于计算机不能直接对图片，视频，文字等直接进行运算，因此首先要把图片转成数值类型的矩阵，而且保证你训练的图片大小同样，我在这里使用keras自带的图片处理类 from keras.preprocessing import image ，主要是就是两个函数 :编程语言

image.load_img(img_path, target_size=image_size) 第一个参数图片的路径，第二个参数target_size 是个tuple 类型，（img_w,img_h）
编辑器

image.img_to_array(img) 图片转成矩阵，固然你也可使用Numpy的 asarray 效果应该同样

构建模型：图片分类确定是卷积模型最好，这个目前位置不用质疑，应该Imagenet 已经证实了，下面先看代码：

    model = Sequential()

    model.add(Conv2D(32, kernel_size=(5, 5), input_shape=(img_h, img_h, 3), activation='relu', padding='same'))
    model.add(MaxPool2D())
    model.add(Dropout(0.3))

    model.add(Conv2D(64, kernel_size=(5, 5), activation='relu', padding='same'))
    model.add(MaxPool2D())
    model.add(Dropout(0.3))

    model.add(Conv2D(128, kernel_size=(5, 5), activation='relu', padding='same'))
    model.add(MaxPool2D())
    model.add(Dropout(0.5))

    model.add(Conv2D(256, kernel_size=(5, 5), activation='relu', padding='same'))
    model.add(MaxPool2D())
    model.add(Dropout(0.5))

    model.add(Flatten())
    model.add(Dense(512, activation='relu'))
    model.add(Dropout(0.5))

    model.add(Dense(2, activation='softmax'))

    model.summary()  //这一句只是输出网络结构

模型：使用序贯模型，而后加了4个卷积层，Conv2D 第一个参数就是卷基层的输出维度，为何我写了32呢，由于我电脑渣啊，GPU显存过小了，不然我就写64了。参考了VGG,Resnet 等的网络结构

激活函数：卷基层的激活函数使用非线性激活函数： relu。输出层的激活函数使用 softmax，多分类就用这个。

池化层（MaxPool2D）：主要是降维，减小参数加速运算，防止过拟合，为了防止过拟合还加入了 Dropout 层

编译设计的模型：

    sgd = Adam(lr=0.0003)
    model.compile(loss='binary_crossentropy',optimizer=sgd, metrics=['accuracy'])

讲一下优化器： Adam(lr=0.0003) 效果最好，基本都是用这个，lr：学习速率，学习速率越小，理论上来讲损失函数越小，精度越高，可是计算越慢，默认是 0.001

注意：不加 metrics=['accuracy'] 参数不会输出日志，在控制台看不到变化。

切分数据：从训练数据分割80% 用来训练，20%训练验证

    images, lables = load_data()
    images /= 255
    x_train, x_test, y_train, y_test = train_test_split(images, lables, test_size=0.2)

除以 255 是为了数据归一化，理论上来讲归一化，会减小损失函数的震荡，有助于减少损失函数提升精度。

训练：加了Tensorlow 可视化，使用的是 TensorBoard，能够清晰的看到损失函数和精度的变化趋势

  print("train.......")
    tbCallbacks = callbacks.TensorBoard(log_dir='./logs', histogram_freq=1, write_graph=True, write_images=True)
    model.fit(x_train, y_train, batch_size=nbatch_size, epochs=nepochs, verbose=1, validation_data=(x_test, y_test), callbacks=[tbCallbacks])

运行 TensorBoard 只须要两行代码，在cmd，cd D:\Learning\learn_python\ 先切到你的logs目录的上一级，而后执行 tensorboard --logdir="logs" 便可。

评估：返回两个数据，这个没什么说的

    scroe, accuracy = model.evaluate(x_test, y_test, batch_size=nbatch_size)
    print('scroe:', scroe, 'accuracy:', accuracy)

保存模型：保存是为了能够方便的迁移学习，把网络结构和权重分开保存，固然也能够直接一块儿保存，须要的导入： from keras.models import model_from_yaml, load_model

    yaml_string = model.to_yaml()
    with open('./models/cat_dog.yaml', 'w') as outfile:
        outfile.write(yaml_string)
    model.save_weights('./models/cat_dog.h5')

调参：调参其实就是在对抗过拟合和欠拟合，欠拟合能够消除，可是过拟合只能缓解没办法消除。有人说

深度学习工程师50%的时间在调参数，49%的时间在对抗过/欠拟合，剩下1%时间在修改网上down下来的程序

深觉得然啊，刚开始个人网络结构不是这样的，卷基层只有2层，kernel_size=（3,3），学习速率采用的默认参数，全链接层是： Dense(256)，训练以后发现欠拟合，精度只有86%左右，后来增长了卷积层数量，调小学习速率等几轮的调参，精度接近93%，还能够继续提高，但我不想调了，由于笔记本的GPU太渣（1050ti）训练一次差很少须要一个多小时。

调参也没什么好办法，只能一次次的去试，若是采用迁移学习，VGG，Resnet的网络结构和权重的话，分分钟能上98%，毫无难度。

预测真实数据：保存的网络结构.yaml文件和权重 .h5 文件先加载进来，而后编译，而后直接预测

def pred_data():

    with open('./models/cat_dog.yaml') as yamlfile:
        loaded_model_yaml = yamlfile.read()
    model = model_from_yaml(loaded_model_yaml)
    model.load_weights('./models/cat_dog.h5')

    sgd = Adam(lr=0.0003)
    model.compile(loss='categorical_crossentropy',optimizer=sgd, metrics=['accuracy'])

    images = []
    path='./data/test/'
    for f in os.listdir(path):
        img = image.load_img(path + f, target_size=image_size)
        img_array = image.img_to_array(img)

        x = np.expand_dims(img_array, axis=0)
        x = preprocess_input(x)
        result = model.predict_classes(x,verbose=0)

        print(f,result[0])

由于作的分类任务，我在加载数据的时候写的是 cat 索引为 0 ，dog索引为 1，因此输出的时候，预测的值与之对应，我从百度找了20张图片猫狗个10张，图片长这样：

预测的结果以下：

能够看到，猫有一张错误，狗有两张错误，这个精度在小样本数据集不适用迁移学习的状况下仍是能够的。

完整代码：https://github.com/jarvisqi/deep_learning

参考：http://keras-cn.readthedocs.io/en/latest/