BERT学习指南

词向量模型比较： 横向比较Word2vec,ELMO,BERT三个模型： 词向量是一个工具，可以把真实的世界抽象成文字，进而运用数学公式进行操作的向量，而对向量的操作才是NLP真正要做的任务。因此，NLP任务可以分为两部分：预训练产生的向量和对向量进行的操作（下游具体的任务）。 Word2vec、ELMO、BERT，这些模型逐渐把下游的具体任务迁移到预训练向量上。 Word2vec–>：ELMO

>>阅读原文<<