自然语言预训练模型总结（PPT版）

这是我个人的总结，参考了张俊林这篇很好的文章，请感兴趣看以下链接~ 张俊林：放弃幻想，全面拥抱Transformer：自然语言处理三大特征抽取器（CNN/RNN/TF）比较 一、简介 自然语言处理中的预训练技术发展历程——从Word Embedding到Bert Neural language models Word Embedding Pretrained language models 什么是

>>阅读原文<<