使用机器学习预测天气(第三部分神经网络)

概述

  这是使用机器学习预测平均气温系列文章的最后一篇文章了，做为最后一篇文章，我将使用google的开源机器学习框架tensorflow来构建一个神经网络回归器。关于tensorflow的介绍、安装、入门，请本身google，这里就不作讲述。

  这篇文章我主要讲解一下几点：

• 了解人工神经网络理论
• tensorflow高级API:Estimators
• 构建DNN模型预测天气

人工神经网络基础理论

  上一篇文章主要讲解了如何构建线性回归模型(这是最基础的机器学习算法)来预测内布拉斯加州林肯市天天的平均气温。线性回归模型很是有效，而且能够被用于数值化(好比分类)、预测(好比预测天气)。线性回归算法也比较与局限性，它要求数据之间具备线性关系。
  针对于非线性关系的场景，数据挖掘和机器学习有数不清的算法来处理。近些年最火的要数神经网络算法了，它能够处理机器学习领域的好多问题。神经网络算法具有线性和非线性学习算法的能力。
  神经网络受到大脑中的生物神经元的启发，它们在复杂的交互网络中工做，根据已经收集的信息的历史来传输，收集和学习信息。咱们感兴趣的计算神经网络相似于大脑的神经元，由于它们是接收输入信号（数字量）的神经元（节点）的集合，处理输入并将处理后的信号发送给其余下游代理 网络。 信号做为经过神经网络的数字量的处理是一个很是强大的特征，不限于线性关系。
  在这个系列中，我一直关注一种称为监督学习的特定类型的机器学习，也就说说训练的数据结果是已知的，根据历史已知的输入和输出，预测将来的输入对应的输出。 此外，预测的类型是数值的真实值，这意味着咱们使用的是回归预测算法。
  从图形上看，相似于本文中描述的神经网络如图:

上面描述的神经网络在最左边包含一个输入层，即图中的x1和x2，这两个特征是神经网络输入值。这两个特征被输入到神经网络中，经过被称为隐藏层的两层神经元进行处理和传输。这个描述显示了两个隐藏层，每层包含三个神经元（节点）。 该信号而后离开神经网络，并做为单个数值预测值汇总在输出层。
  让我花一点时间来解释箭头背后的含义，箭头表示数据在层间从一个节点到另外一个节点的传输处理。 每一个箭头表明一个数值的数学变换，从箭头的底部开始，而后乘以特定于该路径特定的权重。 一个图层中的每一个节点将以这种方式获得一个值。 而后汇总全部在节点收敛的值。 这个就是我以前提到的神经网络的线性操做。

  在每一个节点上进行求和以后，将一个特殊的非线性函数应用到总和上，这在上面的图像中被描述为Fn（...）。 这种将非线性特征引入神经网络的特殊功能称为激活功能。 激活函数所带来的这种非线性特性赋予了多层神经网络以其功能。 若是不是将非线性加入到过程当中，则全部层都将有效地代数地组合成一个常数运算，其中包括将输入乘以某个平坦系数值（即线性模型）。
好吧，这一切都很好，可是这怎么转化为学习算法呢？ 那么最直接的答案就是评估正在进行的预测，即模型“y”的输出，到实际预期值（目标），并对权重进行一系列调整，以改善总体 预测准确性。
  在回归机器学习算法的世界中，经过使用成本（又名“损失”或“客观”）函数（即平方偏差之和（SSE））评估准确性。 请注意，我把这个声明推广到整个机器学习的连续体，而不只仅是神经网络。 在前面的文章中，普通最小二乘算法完成了这一工做，它发现了使偏差平方和（即最小二乘）最小化的系数组合。
  咱们的神经网络回归器会作一样的事情。 它将迭代训练数据提取特征值，计算成本函数（使用SSE），并以最小化成本函数的方式调整权重。 经过算法迭代推送特征的过程和评估如何根据成本函数来调整权重。
  模型优化算法在构建鲁棒神经网络中很是重要。 例如经过网络体系结构（即宽度和深度）馈送，而后根据成本函数进行评估，调整权重。 当优化器函数肯定权重调整不会致使成本函数计算代价的变化，该模型被认为是“学习”。

TensorFlow Estimator API

  tensorflow由好几个部分组成，其中最经常使用的是Core API,它为用户提供了一套低级别的API来定义和训练使用符号操做的任何机器学习算法。这也是TensorFlow的核心功能，虽然Core API能应对大多数的应用场景，但我更关注Estimator API。
  TensorFlow团队开发了Estimator API，使平常开发人员能够更方便地使用该库。这个API提供了训练模型、评估模型、以及和Sci-Kit库类似的对未知数据的预测接口，这是经过实现各类算法的通用接口来实现的。另外，构建在高级API中的是机器学习最佳实践，抽象和可伸缩性的负载。
  全部这些机器学习的优势使得基础Estimator类中实现的一套工具以及多个预先封装的模型类型，下降了使用TensorFlow的入门门槛，所以能够应用于平常问题。经过抽象出诸如编写训练循环或处理会话之类的问题，开发人员可以专一于更重要的事情，如快速尝试多个模型和模型架构，以找到最适合他们须要的模型。
  在这篇文章中，我将介绍如何使用很是强大的深度神经网络估计器之一DNN Regressor。

创建一个DNNRegressor来预测天气

  咱们先导入一些咱们须要用到的库。

import pandas as pd  
import numpy as np  
import tensorflow as tf  
from sklearn.metrics import 
explained_variance_score, \  
    mean_absolute_error, \
    median_absolute_error
from sklearn.model_selection import train_test_split

咱们来处理一下数据，全部的数据我都放在了Github上，你们能够去查阅clone。

# read in the csv data into a pandas data frame and set the date as the index
df = pd.read_csv('end-part2_df.csv').set_index('date')

# execute the describe() function and transpose the output so that it doesn't overflow the width of the screen
df.describe().T

# execute the info() function
df.info()
<class 'pandas.core.frame.DataFrame'>  
Index: 997 entries, 2015-01-04 to 2017-09-27  
Data columns (total 39 columns):  
meantempm          997 non-null int64  
maxtempm           997 non-null int64  
mintempm           997 non-null int64  
meantempm_1        997 non-null float64  
meantempm_2        997 non-null float64  
meantempm_3        997 non-null float64  
meandewptm_1       997 non-null float64  
meandewptm_2       997 non-null float64  
meandewptm_3       997 non-null float64  
meanpressurem_1    997 non-null float64  
meanpressurem_2    997 non-null float64  
meanpressurem_3    997 non-null float64  
maxhumidity_1      997 non-null float64  
maxhumidity_2      997 non-null float64  
maxhumidity_3      997 non-null float64  
minhumidity_1      997 non-null float64  
minhumidity_2      997 non-null float64  
minhumidity_3      997 non-null float64  
maxtempm_1         997 non-null float64  
maxtempm_2         997 non-null float64  
maxtempm_3         997 non-null float64  
mintempm_1         997 non-null float64  
mintempm_2         997 non-null float64  
mintempm_3         997 non-null float64  
maxdewptm_1        997 non-null float64  
maxdewptm_2        997 non-null float64  
maxdewptm_3        997 non-null float64  
mindewptm_1        997 non-null float64  
mindewptm_2        997 non-null float64  
mindewptm_3        997 non-null float64  
maxpressurem_1     997 non-null float64  
maxpressurem_2     997 non-null float64  
maxpressurem_3     997 non-null float64  
minpressurem_1     997 non-null float64  
minpressurem_2     997 non-null float64  
minpressurem_3     997 non-null float64  
precipm_1          997 non-null float64  
precipm_2          997 non-null float64  
precipm_3          997 non-null float64  
dtypes: float64(36), int64(3)  
memory usage: 311.6+ KB

  请注意，咱们刚刚记录下了1000个气象数据记录，而且全部的特征都是数字性质的。 另外，因为咱们在第一篇文章中的努力工做，全部记录都是完整的，由于它们不缺乏任何值（没有非空值）。
  如今我将删除“mintempm”和“maxtempm”这两列，由于它们对帮助咱们预测平均温度毫无心义。 咱们正在试图预测将来，因此咱们显然不能掌握有关将来的数据。 我还将从目标（y）中分离出特征（X）。

# First drop the maxtempm and mintempm from the dataframe
df = df.drop(['mintempm', 'maxtempm'], axis=1)

# X will be a pandas dataframe of all columns except meantempm
X = df[[col for col in df.columns if col != 'meantempm']]

# y will be a pandas series of the meantempm
y = df['meantempm']

  和全部监督机器学习应用程序同样，我将把个人数据集分红训练集和测试集。 可是，为了更好地解释训练这个神经网络的迭代过程，我将使用一个额外的数据集，我将其称为“验证集合”。 对于训练集，我将利用80％的数据，对于测试和验证集，它们将分别为剩余数据的10％。为了分解这些数据，我将再次使用Scikit Learn 库的train_test_split（）函数。

# split data into training set and a temporary set using sklearn.model_selection.traing_test_split
X_train, X_tmp, y_train, y_tmp = train_test_split(X, y, test_size=0.2, random_state=23)  
# take the remaining 20% of data in X_tmp, y_tmp and split them evenly
X_test, X_val, y_test, y_val = train_test_split(X_tmp, y_tmp, test_size=0.5, random_state=23)

X_train.shape, X_test.shape, X_val.shape  
print("Training instances   {}, Training features   {}".format(X_train.shape[0], X_train.shape[1]))  
print("Validation instances {}, Validation features {}".format(X_val.shape[0], X_val.shape[1]))  
print("Testing instances    {}, Testing features    {}".format(X_test.shape[0], X_test.shape[1]))  
Training instances   797, Training features   36  
Validation instances 100, Validation features 36  
Testing instances    100, Testing features    36

构建神经网络模型时要采起的第一步是实例化tf.estimator.DNNRegressor（）类。类的构造函数有多个参数，但我将重点关注如下参数：

• feature_columns：一种相似列表的结构，包含要输入到模型中的要素的名称和数据类型的定义
• hidden_​​units：一个相似列表的结构，包含神经网络数量宽度和深度的定义
• optimizer：tf.Optimizer子类的一个实例，在训练期间优化模型的权重;它的默认值是AdaGrad优化器。
• activation_fn：激活功能，用于在每一层向网络引入非线性;默认是ReLU
• model_dir：要建立的目录，其中包含模型的元数据和其余检查点保存

我将首先定义一个数字特征列的列表。要作到这一点，我使用tf.feature_column.numeric_column（）函数返回一个FeatureColumn实例。

feature_cols = [tf.feature_column.numeric_column(col) for col in X.columns]

  使用定义的特性列，我如今能够实例化DNNRegressor类并将其存储在回归变量中。 我指定我想要一个有两层深度的神经网络，其中两层的宽度都是50个节点。 我还指出，我但愿个人模型数据存储在一个名为tf_wx_model的目录中。

regressor = tf.estimator.DNNRegressor(feature_columns=feature_cols,  
                                      hidden_units=[50, 50],
                                      model_dir='tf_wx_model')
INFO:tensorflow:Using default config.  
INFO:tensorflow:Using config: {'_tf_random_seed': 1, '_save_checkpoints_steps': None, '_save_checkpoints_secs': 600, '_model_dir': 'tf_wx_model', '_log_step_count_steps': 100, '_keep_checkpoint_every_n_hours': 10000, '_save_summary_steps': 100, '_keep_checkpoint_max': 5, '_session_config': None}

接下来我想要作的是定义一个可重用的函数，这个函数一般被称为“输入函数”，我将调用wx_input_fn（）。 这个函数将被用来在训练和测试阶段将数据输入到个人神经网络中。有许多不一样的方法来创建输入函数，但我将描述如何定义和使用一个基于tf.estimator.inputs.pandas_input_fn（），由于个人数据是在一个pandas数据结构。

def wx_input_fn(X, y=None, num_epochs=None, shuffle=True, batch_size=400):  
    return tf.estimator.inputs.pandas_input_fn(x=X,
                                               y=y,
                                               num_epochs=num_epochs,
                                               shuffle=shuffle,
                                               batch_size=batch_size)

  请注意，这个wx_input_fn（）函数接受一个必选参数和四个可选参数，而后将这些参数交给TensorFlow输入函数，专门用于返回的pandas数据。 这是TensorFlow API一个很是强大的功能。函数的参数定义以下：

• X：输入要输入到三种DNNRegressor接口方法中的一种（训练，评估和预测）
• y：X的目标值，这是可选的，不会被提供给预测调用
• num_epochs：可选参数。 当算法在整个数据集上执行一次时，就会出现一个新纪元。
• shuffle：可选参数，指定每次执行算法时是否随机选择数据集的批处理（子集）
• batch_size：每次执行算法时要包含的样本数

  经过定义咱们的输入函数，咱们如今能够训练咱们基于训练数据集上的神经网络。 对于熟悉TensorFlow高级API的读者，您可能会注意到我对本身的模型的培训方式有点不合常规。至少从TensorFlow网站上的当前教程和网络上的其余教程的角度来看。一般状况下，您将看到以下所示的内容。

regressor.train(input_fn=input_fn(training_data, num_epochs=None, shuffle=True), steps=some_large_number)

.....
lots of log info  
....

而后，做者将直接展现evaluate（）函数，而且几乎没有提示它在作什么或为何存在这一行代码。

regressor.evaluate(input_fn=input_fn(eval_data, num_epochs=1, shuffle=False), steps=1)

.....
less log info  
....

在此以后，假设全部的训练模型都是完美的，他们会直接跳到执行predict()函数。

predictions = regressor.predict(input_fn=input_fn(pred_data, num_epochs=1, shuffle=False), steps=1)

  我但愿可以提供一个合理的解释，说明如何训练和评估这个神经网络，以便将这个模型拟合或过分拟合到训练数据上的风险降到最低。所以，咱们再也不拖延，让我定义一个简单的训练循环，对训练数据进行训练，按期对评估数据进行评估。

evaluations = []  
STEPS = 400  
for i in range(100):  
    regressor.train(input_fn=wx_input_fn(X_train, y=y_train), steps=STEPS)
    evaluations.append(regressor.evaluate(input_fn=wx_input_fn(X_val,
                                                               y_val,
                                                               num_epochs=1,
                                                               shuffle=False)))
INFO:tensorflow:Create CheckpointSaverHook.  
INFO:tensorflow:Saving checkpoints for 1 into tf_wx_model/model.ckpt.  
INFO:tensorflow:step = 1, loss = 1.11335e+07  
INFO:tensorflow:global_step/sec: 75.7886  
INFO:tensorflow:step = 101, loss = 36981.3 (1.321 sec)  
INFO:tensorflow:global_step/sec: 85.0322  
... A WHOLE LOT OF LOG OUTPUT ...
INFO:tensorflow:step = 39901, loss = 5205.02 (1.233 sec)  
INFO:tensorflow:Saving checkpoints for 40000 into tf_wx_model/model.ckpt.  
INFO:tensorflow:Loss for final step: 4557.79.  
INFO:tensorflow:Starting evaluation at 2017-12-05-13:48:43  
INFO:tensorflow:Restoring parameters from tf_wx_model/model.ckpt-40000  
INFO:tensorflow:Evaluation [1/1]  
INFO:tensorflow:Finished evaluation at 2017-12-05-13:48:43  
INFO:tensorflow:Saving dict for global step 40000: average_loss = 10.2416, global_step = 40000, loss = 1024.16  
INFO:tensorflow:Starting evaluation at 2017-12-05-13:48:43  
INFO:tensorflow:Restoring parameters from tf_wx_model/model.ckpt-40000  
INFO:tensorflow:Finished evaluation at 2017-12-05-13:48:43  
INFO:tensorflow:Saving dict for global step 40000: average_loss = 10.2416, global_step = 40000, loss = 1024.16

  上面的循环迭代了100次。 在循环体中，我调用了回归器对象的train（）方法，并将其传递给了个人可重用的wx_input_fn（），后者又经过了个人训练功能集和目标。 我有意地将默认参数num_epochs等于None，基本上这样说：“我不在意你经过训练集多少次，只是继续训练算法对每一个默认batch_size 400”（大约一半的训练 组）。 我还将shuffle参数设置为默认值True，以便在训练时随机选择数据以免数据中的任何顺序关系。 train（）方法的最后一个参数是我设置为400的步骤，这意味着训练集每一个循环将被批处理400次。
  这给了我一个很好的时间以更具体的数字来解释一个epoch的意义。 回想一下，当一个训练集的全部记录都经过神经网络训练一次时，就会出现一个epoch。 因此，若是咱们的训练集中有大约800（准确的说是797）个记录，而且每一个批次选择400个，那么每两个批次咱们就完成了一个时间。 所以，若是咱们遍历整个训练集100个迭代400个步骤，每一个批次大小为400（每一个批次的一个半个时间），咱们获得：

(100 x 400 / 2) = 20,000 epochs

  如今你可能想知道为何我为循环的每次迭代执行和evaluate()方法，并在列表中捕获它的输出。 首先让我解释一下每次train()方法被触发时会发生什么。它随机选择一批训练记录，并经过网络推送，直到作出预测，并为每条记录计算损失函数。 而后根据计算出的损失根据优化器的逻辑调整权重，这对于减小下一次迭代的总体损失的方向作了很好的调整。 通常而言，只要学习速率足够小，这些损失值随着时间的推移而逐渐降低。
  然而，通过必定数量的这些学习迭代以后，权重开始不只受到数据总体趋势的影响，并且还受到非实际的噪声在全部实际数据中的继承。 在这一点上，网络受到训练数据特性的过分影响，而且变得没法推广关于整体数据的预测。这与我以前提到的高级TensorFlow API许多其余教程不足之处有关。 在训练期间周期性地打破这一点很是重要，并评估模型如何推广到评估或验证数据集。 经过查看第一个循环迭代的评估输出，让咱们花些时间看看evaluate()函数返回的结果。

evaluations[0]  
{'average_loss': 31.116383, 'global_step': 400, 'loss': 3111.6382}

正如你所看到的，它输出的是平均损失（均方偏差）和训练中的步骤的总损失（平方偏差和），这一步是第400步。 在训练有素的网络中，你一般会看到一种趋势，即训练和评估损失或多或少地平行降低。 然而，在某个时间点的过分配置模型中，实际上在过拟合开始出现的地方，验证训练集将再也不看到其evaluate()方法的输出下降。 这是你想中止进一步训练模型的地方，最好是在变化发生以前。
  如今咱们对每一个迭代都有一个评估集合，让咱们将它们做为训练步骤的函数来绘制，以确保咱们没有过分训练咱们的模型。 为此，我将使用matplotlib的pyplot模块中的一个简单的散点图。

import matplotlib.pyplot as plt  
%matplotlib inline

# manually set the parameters of the figure to and appropriate size
plt.rcParams['figure.figsize'] = [14, 10]

loss_values = [ev['loss'] for ev in evaluations]  
training_steps = [ev['global_step'] for ev in evaluations]

plt.scatter(x=training_steps, y=loss_values)  
plt.xlabel('Training steps (Epochs = steps / 2)')  
plt.ylabel('Loss (SSE)')  
plt.show()

  从上面的图表看来，在全部这些迭代以后，我并无过分配置模型，由于评估损失历来没有呈现出朝着增长价值的方向的显着变化。如今，我能够安全地继续根据个人剩余测试数据集进行预测，并评估模型如何预测平均天气温度。
  与我已经演示的其余两种回归方法相似，predict()方法须要input_fn，我将使用可重用的wx_input_fn()传递input_fn，将测试数据集交给它，将num_epochs指定为None，shuffle为False，所以它将依次送入全部的数据进行测试。
  接下来，我作一些从predict()方法返回的dicts迭代的格式，以便我有一个numpy的预测数组。而后，我使用sklearn方法explain_variance_score()，mean_absolute_error()和median_absolute_error()来预测数组，以测量预测与已知目标y_test的关系。

pred = regressor.predict(input_fn=wx_input_fn(X_test,  
                                              num_epochs=1,
                                              shuffle=False))
predictions = np.array([p['predictions'][0] for p in pred])

print("The Explained Variance: %.2f" % explained_variance_score(  
                                            y_test, predictions))  
print("The Mean Absolute Error: %.2f degrees Celcius" % mean_absolute_error(  
                                            y_test, predictions))  
print("The Median Absolute Error: %.2f degrees Celcius" % median_absolute_error(  
                                            y_test, predictions))
INFO:tensorflow:Restoring parameters from tf_wx_model/model.ckpt-40000  
The Explained Variance: 0.88  
The Mean Absolute Error: 3.11 degrees Celcius  
The Median Absolute Error: 2.51 degrees Celcius

我已经使用了与上一篇文章有关的线性回归技术相同的指标，以便咱们不只能够评估这个模型，还能够对它们进行比较。 正如你所看到的，这两个模型的表现至关相似，更简单的线性回归模型略好一些。然而，你能够经过修改学习速率，宽度和深度等参数来优化机器学习模型。

总结

  本文演示了如何使用TensorFlow高级API Estimator子类DNNRegressor。而且，我也描述了神经网络理论，他们是如何被训练的，以及在过程当中认识到过分拟合模型的危险性的重要性。
  为了演示这个创建神经网络的过程，我创建了一个模型，可以根据本系列第一篇文章收集的数字特征预测次日的平均温度。写这些文章的目的不是为了创建一个很是好的模型预测天气，个人目标是：

• 演示从数据收集，数据处理，探索性数据分析，模型选择，模型构建和模型评估中进行分析（机器学习，数据科学，不管...）项目的通常过程。
• 演示如何使用两个流行的Python库StatsModels和Scikit Learn来选择不违反线性回归技术关键假设的有意义的功能。
• 演示如何使用高级别的TensorFlow API，并直观地了解全部这些抽象层下正在发生的事情。
• 讨论与过分拟合模型相关的问题。
• 解释试验多个模型类型以最好地解决问题。

相关文章

使用机器学习预测天气第二部分
使用机器学习预测天气第一部分
英文原文

来获取我更多有趣的博文

• 原文地址:http://www.bugcode.cn/mlweath...