卷积神经网络初始化方法总结

卷积神经网络初始化方法总结 一、前言 二、预训练初始化 三、全0初始化 四、固定值初始化 1.BN层的初始化 2.LSTM 3.bias初始化 五、固定方差的参数初始化 1.高斯分布初始化 2.均匀分布初始化 3.固定方差初始化的缺点 六.方差缩放的参数初始化 1.Xavier初始化 2.He初始化 七、BN层可以降低对初始化的要求 八、参考 一、前言   在 CNN 模型的训练过程中，权值初始化

>>阅读原文<<