OpenGPT-2：咱们复制了 GPT-2，由于你也能够

最近，BERT¹，XLNet²，GPT-2³和Grover 等大型语言模型在生成文本和多个 NLP 任务方面取得了使人瞩目的成果。因为 Open-AI 目前还没有发布其最大型号（但已发布其 774M param 模型），他们寻求复制其 1.5B 模型，以容许其余人在他们的预训练模型上进行构建并进一步改进。

咱们能够使用他们的 Google Colab 访问模型并生成文本，而且还单独提供了模型权重。

新闻来源：medium.com