以解数学题的方式来理解word2vec

1 one-word context 假设: 词汇表里面有3个单词 ‘今天’,‘天气’,‘不错’;  即V=3 隐藏层具有2个节点;即N=2 目的是当输入一个单词,我们来预测其下一个单词? 则在input layer由one-hot编码:   今天······[1,0,0] 天气······[0,1,0] 不错······[0,0,1] 接着我们需要初始化一下输入矩阵和输出矩阵 这里的值你可以任意
相关文章
相关标签/搜索