【NLP】OpenAI GPT算法理解

论文《Improving Language Understanding by Generative Pre-Training》 Pytorch代码实现： huggingface/pytorch-openai-transformer-lm 一、论文原理 GPT的核心思想是先通过无标签的文本去训练生成语言模型，再根据具体的NLP任务（如文本蕴涵、QA、文本分类等），来通过有标签的数据对模型进行fine

>>阅读原文<<