【读论文】Hash Embeddings for Efficient Word Representations

abstract Hash Embedding可以看作是普通word embedding 和通过随机hash 函数得到的词嵌入的interposition (插补)。 在Hash Embedding中,每个token由k个d维embedding vectors和一个k维weight vector表示,token的最终d维表示是两者的乘积。 实验表明,Hash Embedding可以轻松处理包含数百
相关文章
相关标签/搜索