神经网络之权重初始化

本文转载自https://blog.csdn.net/zhangbaoanhadoop/article/details/83042960 记录下来,时时温故知新 模型权重的初始化对于网络的训练很重要, 不好的初始化参数会导致梯度传播问题, 降低训练速度; 而好的初始化参数, 能够加速收敛, 并且更可能找到较优解. 如果权重一开始很小,信号到达最后也会很小;如果权重一开始很大,信号到达最后也会很大。
相关文章
相关标签/搜索