Word2vec vs Bert 系列技术要点

Word2vec vs Bert 系列技术要点 文章目录 Word2vec vs Bert 系列技术要点 Word2vec内容回顾 Seq2Seq模型的注意力(Attention)机制 Attention机制 Transformer原理 BERT原理 **Bert的提升与进步**（对比） Word2vec内容回顾 目的 将词转化为向量有助于机器理解 更容易计算词语和词语之间的距离，表此词语之间的关

>>阅读原文<<