NLP-contextualized representations-task04

基于上下文的词嵌入方法 1 Word2Vec,Glove & Fastext 2 一词多义 2.1 ELMO 2.2 BERT 2.3 GPT 3 小结 1 Word2Vec,Glove & Fastext 回顾以前内容,对于词如何转为数学表示,最基础的是词的编码,即one-hot编码,这样能够将词转为计算机能够处理的对象,但缺点是彻底丢失了词自己的语意信息,只达到了区分效果,每一个词之间互不相关
本站公众号
   欢迎关注本站公众号,获取更多信息