深度学习(十)

循环神经网络 特征化表示(词嵌入) 1、针对one-hot向量,其不能表现词汇之间的相似关系,泛化能力较差,所以可以更换一种表示方式,将词汇进行特征化表示,即用词汇的特征代表词汇。 2、判断词汇的相似程度一般使用余弦相似度,即 sim(u,v)=uTv||u||2||v||2 s i m ( u , v ) = u T v | | u | | 2 | | v | | 2 负样本 与Skip-Gra
相关文章
相关标签/搜索