pytorch基础学习4

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 pytorch之常用**函数 一、sigmoid函数 二、ReLU函数 三、ReLU6函数 四、 ELU函数 五、SELU函数 一、sigmoid函数 1.sigemoid简介 sigmoid容易饱和,当输入非常大或者非常小的时候,函数曲线非常平坦,梯度就接近于0。而反向传播中,我们需要使用sigmoid的导数来更新权重,如果导数都
相关文章
相关标签/搜索