【机器学习】【Highway Network】

文章转自:https://zhuanlan.zhihu.com/p/35019701 原文链接:Highway Networks(2015) 传统神经网络,一般对输入做一个非线性变换H来得到输出output: x表示输入,W_H表示权重。 而高速公路网络基于门机制,引入了transform gata T和carry gate C,输出由两个门来控制: 设置C=1-T,公式就变成了: 可以看到式子中
相关文章
相关标签/搜索