梯度裁剪（Clipping Gradient）：torch.nn.utils.clip_grad_norm

torch.nn.utils.clip_grad_norm_(parameters, max_norm, norm_type=2)

1.（引用：【深度学习】RNN中梯度消失的解决方案（LSTM） ）

梯度裁剪原理：既然在BP过程当中会产生梯度消失（就是偏导无限接近0，致使长时记忆没法更新），那么最简单粗暴的方法，设定阈值，当梯度小于阈值时，更新的梯度为阈值，以下图所示：

P.S.在原博中，评论中有提到，经常使用的梯度裁剪的方法是限制上限，针对梯度爆炸不收敛的状况，和做者写的相反。我理解的大概是“梯度裁剪解决的是梯度消失或爆炸的问题，即设定阈值”。

 

2. 函数定义：裁剪可迭代参数的渐变范数。范数是在全部梯度一块儿计算的，就好像它们被链接成单个矢量同样。渐变是就地修改的。

Parameters:

• parameters (Iterable[Variable]) – 一个基于变量的迭代器，会进行归一化（原文：an iterable of Variables that will have gradients normalized）
• max_norm (float or int) – 梯度的最大范数（原文：max norm of the gradients）
• norm_type(float or int) – 规定范数的类型，默认为L2（原文：type of the used p-norm. Can be'inf'for infinity norm）

Returns:参数的整体范数（做为单个向量来看）（原文：Total norm of the parameters (viewed as a single vector).）