NLP《语言模型(二)-- 神经网络NNLM语言模型》

所谓的语言模型,就是为了判断某个句子是不是人话,句子S是由多个词语wi构成的 式子展开后,每一个因数P(条件概率)都是这个模型的参数,那么怎么求解这个参数呢?通常参数的求解用方法是 N-gram 模型,最大熵模型,HMM,CRF,RNNLM 以及本文正在学习的 NNLM。 一:N-Gram模型的缺陷 我们最开始接触到的语言模型就是N-Gram模型,这个模型是基于统计计算的,理解和学习起来也很简单。
相关文章
相关标签/搜索