ELMo模型

1. 前言 ELMo模型是2018年3月份提出的，模型会根据上下文来推断每个词对应的词向量，能够根据语境来对多义词理解。 2. ELMo模型 双向LSTM语言模型： 如果LSTM有L个输入节点，那么，BiLM会有2L+1和向量。 BiLSTM向量的加权和： 参考： Deep contextualized word representations

>>阅读原文<<