Word2vec skip-gram模型

Skip-gram使用了一个机器学习的trick。我们训练一个简单的只有一个隐藏层的模型来完成某个任务，但我们的最终目的并不是完成这个任务，而是学习隐藏层中的参数。后面你会看到这些参数就是我们要找的word vectors 我们先来说说用这个网络要完成的“假任务”，然后再说这如何间接的使我们得到想要的word vector 基本模型 训练数据与模型输出 对于原文本中的每个词（作为input），我们

>>阅读原文<<