深度学习笔记(2):1.9 标准化输入 | 1.10 梯度消失与爆炸

1.9   标准化输入 在数据输入之前,我们先对数据作一个标准化处理,如下图所示: 什么是标准化处理呢?对于多维变量,我们希望通过标准化处理能得到变量的每一个特征都满足均值为0,方差为1。 假设我们有这样一个例子,每个样本有两个特征(是二维的),方便可视化,如上图最左侧所示,x1的取值跨度明显大于x2的取值跨度(x1方差大于x2方差),首先我们对数据进行中心化处理,即样本的每个特征减去其对应均值。
相关文章
相关标签/搜索