【深度学习】梯度消失/爆炸（Vanishing/Exploding Gradient）

这几天正在看梯度消失/爆炸，在深度学习的理论中梯度消失/爆炸也是极其重要的，所以就抽出一段时间认真地研究了一下梯度消失/爆炸的原理，以下为参考网上的几篇文章总结得出的。 本文分为四个部分：第一部分主要介绍深度学习中一些关于梯度消失/爆炸（Vanishing/Exploding Gradient）的基础。第二部分主要介绍深度学习中什么是梯度消失/爆炸；第三部分主要介绍怎么解决梯度消失/爆炸。 一、P

>>阅读原文<<