ELMO模型

概述         ELMO是在2018年的论文《Deep contextualized word representations》中提出的。ELMo是一种新型深度语境化词表征,可对词进行复杂特征(如句法和语义)和词在语言语境中的变化进行建模(即对多义词进行建模)。我们的词向量是深度双向语言模型(biLM)内部状态的函数,在一个大型文本语料库中预训练而成。说到词向量,我们一定会联想到word2v
相关文章
相关标签/搜索