GPT-3 Finetune

时间 2021-01-04

原文原文链接

一只小狐狸带你解锁炼丹术&NLP秘籍 2018年10月推出的BERT一直有着划NLP时代的意义，然而还有一个让人不能忽略的全程陪跑模型——OpenAI GPT（Generative Pre-Training）在以它的方式坚持着，向更通用的终极目标进发。最初的GPT只是一个12层单向的Transformer，通过预训练+精调的方式进行训练，BERT一出来就被比下去了。之后2019年初的GPT-2提

>>阅读原文<<

1. GPT1-3（GPT3/few-shot,无需finetune）
2. finetune
3. mxnet - finetune
4. Transfer Learning & Model Finetune
5. 迁徙学习Finetune
6. 模型微调（Finetune）
7. 关于GPT3的一些思考
8. PyTorch implementation for "ECO，finetune on ucf101
9. 24模型微调(finetune)
10. bert 源码解读（基于gluonnlp finetune-classifier）
更多相关文章...