Improving Language Understanding by Generative Pre-Training阅读笔记

文章目录 概述 Framwork 1. 无监督预训练 2.有监督的fine-tuning 实验 实验设置 无监督预训练 模型规格 Fine-tuning细节 实验结果 概述 要说最近NLP最显著的成果, 自然是几乎无人不知, 无人不晓的Bert. 但其实在Bert出现几个月之前, OpenAI在《Improving Language Understanding by Generative Pre-
相关文章
相关标签/搜索