embedding与word2vec

embedding是指将 目标向量化，常用于自然语言处理（如：Word2Vec）。这种思想的意义在于，可以将语义问题转换为数值计算问题，从而使计算机能够便捷处理自然语言问题。如果采用传统的One-hot编码，每个单词之间相互独立，此时词向量之间相互正交，编码无法反映单词之间的关联关系。而embedding可以理解为是将One-hot编码的高维向量，降维到一个较低维度的空间，在这个空间中不同单词之间

>>阅读原文<<