语言模型与词向量

自然语言处理中一个很核心的基本任务就是语言模型与词向量，这一篇文章我主要回顾了一下自然语言处理中语言模型与词向量的发展历程，总结一下这一条线的一些经典的idea。 一. 语言模型 什么叫做语言模型？语言模型其实就是对一种语言打分的方法。自然语言处理中经常把语言的“得分”通过概率来体现，这就叫做概率语言模型(PLM)，或者叫做统计语言模型(SLM)。 具体来说，概率语言模型计算的是一个序列作为一句话

>>阅读原文<<