GloVe

GloVe 背景介绍 GloVe模型讲解 原理 GloVe模型 GloVe模型细节 损失函数细节 代码 背景介绍 word2vec最大的问题是基于局部窗口而训练出来的词向量是没有全局性的(一定程度上)，还有一种利用全局矩阵分解形式训练的词向量，但这种方法在词对推理任务上表现不是很好。 GloVe采用了词频共现的模型来训练词向量，即基于全局词汇共现的统计信息来学习词向量，从而将统计信息和局部上下文窗

>>阅读原文<<