BERT基础（三）：BERT与Word2Vec、ELMO的比较与所做改进分析

参考文章： Bert浅析 从Word Embedding到Bert模型——自然语言处理预训练技术发展史 关于self-attention与transformer参考之前的博文 BERT基础（二）：Transformer 详解 BERT基础（一）：self_attention自注意力详解 简单来说，词向量模型是一个工具，可以把文字（词语/字符）转换成向量，然后我们使用这些向量来完成各种 NLP 任务

>>阅读原文<<