预训练模型小结：XLNet\Transformer-xl\Bert\GPT\ELMo

大纲 1 语言模型 2 XLNet XLNET好处 XLNet 创新点 应用 3 Transformer-xl 3.1 segment-level recurrence mechanism 3.2 relative positional encoding 4 Bert 阶段1：语言模型 阶段2：fine-tune 5 GPT 6 ELMo 7 其他 7.1 迁移的2种方法 7.2 零碎 7.3关于

>>阅读原文<<