李宏毅：deep learning for language modeling

1、language modeling 2、n-gram 3、neural network based language model 4、RNN-based LM 与NN不一样的是：NN是只看当前的input来得出output，RNN是根据之前所有的input来看当前的output。 eg：RNN中，要得到“知道”，它就要知道之前的所有的词汇来决定当前的output。 5、n-gram的缺陷以及改

>>阅读原文<<