残差连接skip connect

文章目录 1. 来源 1.LSTM的控制门 2.ResNet进一步简化和实验验证 2.解决：梯度消失 2.1.梯度消失 2.2.使用残差连接 3.解决：网络权重矩阵的退化 3.1.网络退化 3.2.使用残差连接 4.残差连接的有效性 5.解释角度 5.1.使得信息前后向传播更加顺畅 5.2.集成学习 5.3.解决梯度破碎问题 参考 Skip block：将输出表述为输入X和输入的一个非线性变换F(

>>阅读原文<<