3、CNN、RNN、LSTM

时间 2021-01-06

标签文本分类自然语言处理 nlp 梯度消失梯度爆炸 cnn rnn lstm 繁體版

原文原文链接

1、CNN：就是把每个字转换成向量，再拼接成图像的样式，再用卷积核处理，再池化和拼接，再softmax得到分类结果，卷积核的作用能够整合一些上下文信息。 2、RNN：前向网络中加入了前一个字的信息，隐含层嘛；能够整合更多的上下文信息，效果更好，但是会出现梯度消失和爆炸。产生的原因是什么呢？在bp过程中（这里就不推导了），当前层参数的导数是后面所有层导数跌成的结果，主要包含激活函数的导数和权值矩阵两

>>阅读原文<<

1. CNN、RNN与LSTM
2. CNN、RNN与LSTM（转）
3. 什么是CNN、RNN、LSTM
4. cnn\rnn\LSTM\\自编码\gan
5. CNN+RNN+LSTM清晰讲解连接
6. 【NLP复习】CNN（TextCNN）、RNN、LSTM、GRU
7. LSTM RNN
8. RNN、LSTM
9. RNN——LSTM
10. RNN/LSTM
更多相关文章...
• R 数组 - R 语言教程
• W3C CSS 活动 - W3C 教程
• RxJava操作符（二）Transforming Observables
• 算法总结-滑动窗口