NLP入门（5）— NLP经典预训练模型

前言 上一期介绍了近年来大火的Transformer，因为其强大的功能，到现在为止各大热门的预训练模型都是以它为基础结构的。本篇博客就来介绍一些NLP领域使用的经典预训练模型。 预训练模型 首先了解一下预训练模型的概念。我们知道，在深度学习领域，尤其是在自然语言处理领域，神经网络的深度通常无法想象。深度学习庞大的参数量对运行设备的性能也提出了很高的要求，有时即使有着最顶级性能的设备，一个深度模型也

>>阅读原文<<