Word2Vec原理解析二

上篇文章介绍了Word2Vec的精髓内容，这篇文章主要介绍层次Softmax和负采样的内容，即Word2Vec的训练技巧，但不是Word2Vec特有的技巧哟。 1. Hierarchical Softmax 1.1 哈夫曼树 哈夫曼树是一种带权路径长度最短的二叉树，即最优二叉树。 权重*步长 的和 = 带权路径长度 图b即为最优二叉树（哈夫曼树） 如何构建哈夫曼树呢？如下图的过程 每个节点都有唯一

>>阅读原文<<