LSTM初学（二）
一、激活函数 1.sigmoid 数学形式：f(x)=1/(1+e^(-x)) 2.tanh 数学形式：f(x)=2/(1+e^(-2x))-1 LSTM中应用了这两种激活函数，sigmoid 用在各种gate上，产生0~1之间的值，而tanh 用在状态和输出上，是对数据的处理，这个用其他激活函数或许也可以。 2.Relu 数学形式：f(x)=max(0,x)
相关文章
- 1. RNN学习(二)——LSTM
- 2. LSTM初探
- 3. Pytorch学习笔记（二）LSTM
- 4. 初学者对LSTM的理解
- 5. RNN之LSTM(二)
- 6. git初学二、
- 7. TensorFlow初学（二）
- 8. 初学SpringBoot（二）
- 9. 初学HTML（二）
- 10. 初学PHP（二）
- 更多相关文章...
- • Hibernate的二级缓存 - Hibernate教程
- • 您已经学习了 XML Schema，下一步学习什么呢？ - XML Schema 教程
- • 适用于PHP初学者的学习线路和建议
- • Kotlin学习（二）基本类型
相关标签/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
欢迎关注本站公众号,获取更多信息
相关文章
- 1. RNN学习(二)——LSTM
- 2. LSTM初探
- 3. Pytorch学习笔记（二）LSTM
- 4. 初学者对LSTM的理解
- 5. RNN之LSTM(二)
- 6. git初学二、
- 7. TensorFlow初学（二）
- 8. 初学SpringBoot（二）
- 9. 初学HTML（二）
- 10. 初学PHP（二）