XLM-R---XLM的升级版本

这几天研究跨语言无监督模型，研究XLM-R的时候。顺便把XLM看了。因为这两篇文章时紧耦合的。XLM-R依赖XLM的思想。XLM-R来源于Facebook的11月份新文章《Unsupervised Cross-lingual Representation Learning at Scale》是EMNLP2019的最佳论文。 在100种语言上使用超过2.5T的数据进行训练。相对于XLM，XLM-R使

>>阅读原文<<