深度学习-NLP应用

语言模型的核心思想是按照特定的训练方式,从语料中提取所蕴 含的语言知识,应用于词序列的预测。 包括 基于规则的语言模型 和 统计语言模型 •统计语言模型处于主流地位,通过对语料库的统计学习,归纳出 其中的语言知识,获得词与词之间的连接概率,并以词序列的概 率为依据来判断其是否合理。 序列S={w1,w2,w3…}的概率就是: 这样后面就是指数级增长,所以后面考虑N-gram,只考虑当前词的前n-1
相关文章
相关标签/搜索